Gemini wymknął się spod kontroli i włamał do systemów trzech firm
Tech 17:02

Gemini wymknął się spod kontroli i włamał do systemów trzech firm

Sztuczna inteligencja coraz częściej zaczyna realizować scenariusze jak z powieści i filmów science fiction. Google przyznał, że jego Gemini mocno narozrabiał. Całkowicie bez kontroli włamał się do trzech firm. Google Gemini wydostał się ze środowiska testowego i samodzielnie uzyskał dostęp do systemów trzech prawdziwych firm. Do incydentu doszło w maju podczas testów bezpieczeństwa. Google początkowo nie informował o sprawie, teraz jednak zdarzenie zostało ujawnione przez The Wall Street Journal. To kolejny przypadek modelu AI, który wymknął się spod kontroli. Wcześniej podobne cyfrowe ucieczki miały miejsce podczas testów bezpieczeństwa przeprowadzanych przez niezależne firmy w przypadku modeli OpenAI, Anthropic i Meta. Zobacz: Sztuczna inteligencja dokonała sabotażu. Chciała pozbyć się ograniczeń Gemini zerwał się z testów i wskoczył do internetu Incydent miał miejsce podczas ćwiczenia typu „capture the flag”, organizowanego przez firmę Irregular zajmującą się bezpieczeństwem sztucznej inteligencji. Gemini miał działać w całkowicie zamkniętym środowisku i testować fikcyjną firmę. Problem pojawił się, gdy w niewyjawionych okolicznościach Gemini uzyskał dostęp do internetu, co oczywiście nie było częścią planu. W efekcie model Google’a wydostał się poza wyznaczony obszar testów. Po uzyskaniu dostępu do internetu Gemini dotarł do systemów trzech prawdziwych firm. W jednej z nich model próbował kolejnych haseł, aż trafił na właściwe. W dwóch pozostałych znalazł dane uwierzytelniające w publicznych repozytoriach i wykorzystał je do uzyskania dostępu do chronionych systemów. Co najciekawsze, nie było do tego potrzebne wykorzystanie zaawansowanych metod ataku hakerskiego. Gemini połączył podstawowe luki w zabezpieczeniach ze zdolnością do wyszukiwania informacji, podejmowania decyzji i wielokrotnego ponawiania prób. Wszystko to odbywało się bez konieczności prowadzenia modelu przez człowieka Według Google Gemini zatrzymał się, gdy rozpoznał, że ma do czynienia z prawdziwymi firmami. Podczas podobnego incydentu model Claude 4.7 firmy Anthropic miał kontynuować działania, podczas gdy Gemini samodzielnie się wycofało. Model nie spowodował szkód, a poszkodowane firmy zostały poinformowane. Zobacz: Hakerzy włamali się do OpenAI. Użyto do tego... Claude

1
MIESZKO ZAGAńCZYK
1.

Tech

Więcej nowości

Cupertino, mamy problem. Flagowy iPhone grzeje się jak wściekły
Sprzęt 11:57

Cupertino, mamy problem. Flagowy iPhone grzeje się jak wściekły

0
MIESZKO ZAGAńCZYK
1.
Halucynacja AI zmyliła wojsko USA. O mało nie doszło do konfliktu
Bezpieczeństwo 11:01

Halucynacja AI zmyliła wojsko USA. O mało nie doszło do konfliktu

0
JAKUB KRAWCZYńSKI
1.
Powrót kultowego Discmana. FiiO DM11 zachwyca okrągłym kształtem i wymienną baterią
Sprzęt 09:56

Powrót kultowego Discmana. FiiO DM11 zachwyca okrągłym kształtem i wymienną baterią

1
MIESZKO ZAGAńCZYK
1.
Groźne aplikacje na Smart TV. Robią ze sprzętu sieć botów
Bezpieczeństwo 09:07

Groźne aplikacje na Smart TV. Robią ze sprzętu sieć botów

0
JAKUB KRAWCZYńSKI
1.
Przełomowa jasność. Takie będą ekrany w nowych iPhone'ach i Vivo
Sprzęt 07:59

Przełomowa jasność. Takie będą ekrany w nowych iPhone'ach i Vivo

0
JAKUB KRAWCZYńSKI
1.
SSD wreszcie potanieją? Chiński gigant rozważa duży krok
Sprzęt 18 WRZ 2026

SSD wreszcie potanieją? Chiński gigant rozważa duży krok

6
PRZEMYSłAW BANASIAK
1.
Intel ma gromadę chętnych. W kolejce jest Apple, AMD, Google i NVIDIA
Tech 18 WRZ 2026

Intel ma gromadę chętnych. W kolejce jest Apple, AMD, Google i NVIDIA

3
PRZEMYSłAW BANASIAK
1.
Autonomiczne taksówki wkroczą do kolejnego miasta. Ale nieprędko
Moto 18 WRZ 2026

Autonomiczne taksówki wkroczą do kolejnego miasta. Ale nieprędko

0
PRZEMYSłAW BANASIAK
1.
Hakerzy włamali się do OpenAI. Użyto do tego... Claude
Bezpieczeństwo 18 WRZ 2026

Hakerzy włamali się do OpenAI. Użyto do tego... Claude

0
PRZEMYSłAW BANASIAK
1.
Kupił laptopa w cenie auta. Podziałał kilka dni, a producent się miga
Tech 18 WRZ 2026

Kupił laptopa w cenie auta. Podziałał kilka dni, a producent się miga

11
PRZEMYSłAW BANASIAK
1.
FiiO kusi nowym cackiem. Kolekcjonerzy CD już się ustawili w kolejce
Sprzęt 18 WRZ 2026

FiiO kusi nowym cackiem. Kolekcjonerzy CD już się ustawili w kolejce

2
MIESZKO ZAGAńCZYK
1.
Xiaomi ma asa w rękawie. MediaTek i Google tego nie oferują
Sprzęt 18 WRZ 2026

Xiaomi ma asa w rękawie. MediaTek i Google tego nie oferują

0
PRZEMYSłAW BANASIAK
1.
144 zł. Tyle warte było opóźnienie 650 pociągów i odwołanie 70 kolejnych
Telepolis.pl
Moto 18 WRZ 2026

144 zł. Tyle warte było opóźnienie 650 pociągów i odwołanie 70 kolejnych

6
PAWEł MARETYCZ
1.
Android Auto z nowością dla Polaków, której pożałował Google
Aplikacje 18 WRZ 2026

Android Auto z nowością dla Polaków, której pożałował Google

0
MIESZKO ZAGAńCZYK
1.
Jest to dobry weekend na zakup gamingowego laptopa. 1160 zł taniej
Telepolis.pl
Sprzęt 18 WRZ 2026

Jest to dobry weekend na zakup gamingowego laptopa. 1160 zł taniej

0
PAWEł MARETYCZ
1.
Telepolis - gif