Gemini wymknął się spod kontroli i włamał do systemów trzech firm

Sztuczna inteligencja coraz częściej zaczyna realizować scenariusze jak z powieści i filmów science fiction. Google przyznał, że jego Gemini mocno narozrabiał. Całkowicie bez kontroli włamał się do trzech firm. Google Gemini wydostał się ze środowiska testowego i samodzielnie uzyskał dostęp do systemów trzech prawdziwych firm. Do incydentu doszło w maju podczas testów bezpieczeństwa. Google początkowo nie informował o sprawie, teraz jednak zdarzenie zostało ujawnione przez The Wall Street Journal. To kolejny przypadek modelu AI, który wymknął się spod kontroli. Wcześniej podobne cyfrowe ucieczki miały miejsce podczas testów bezpieczeństwa przeprowadzanych przez niezależne firmy w przypadku modeli OpenAI, Anthropic i Meta. Zobacz: Sztuczna inteligencja dokonała sabotażu. Chciała pozbyć się ograniczeń Gemini zerwał się z testów i wskoczył do internetu Incydent miał miejsce podczas ćwiczenia typu „capture the flag”, organizowanego przez firmę Irregular zajmującą się bezpieczeństwem sztucznej inteligencji. Gemini miał działać w całkowicie zamkniętym środowisku i testować fikcyjną firmę. Problem pojawił się, gdy w niewyjawionych okolicznościach Gemini uzyskał dostęp do internetu, co oczywiście nie było częścią planu. W efekcie model Google’a wydostał się poza wyznaczony obszar testów. Po uzyskaniu dostępu do internetu Gemini dotarł do systemów trzech prawdziwych firm. W jednej z nich model próbował kolejnych haseł, aż trafił na właściwe. W dwóch pozostałych znalazł dane uwierzytelniające w publicznych repozytoriach i wykorzystał je do uzyskania dostępu do chronionych systemów. Co najciekawsze, nie było do tego potrzebne wykorzystanie zaawansowanych metod ataku hakerskiego. Gemini połączył podstawowe luki w zabezpieczeniach ze zdolnością do wyszukiwania informacji, podejmowania decyzji i wielokrotnego ponawiania prób. Wszystko to odbywało się bez konieczności prowadzenia modelu przez człowieka Według Google Gemini zatrzymał się, gdy rozpoznał, że ma do czynienia z prawdziwymi firmami. Podczas podobnego incydentu model Claude 4.7 firmy Anthropic miał kontynuować działania, podczas gdy Gemini samodzielnie się wycofało. Model nie spowodował szkód, a poszkodowane firmy zostały poinformowane. Zobacz: Hakerzy włamali się do OpenAI. Użyto do tego... Claude