AI samo dokonało ataku hakerskiego. Wszystko po to by oszukać w teście
Czołowe AI od największych firm to nie są już proste modele językowe czy generatory śmiesznych obrazków. Zdecydowana większość z nich potrafi używać narzędzi, czasami w dość niespodziewany sposób.
OpenAI poinformowało oficjalnie, że ich wewnętrzny test wymknął się spod kontroli. GPT-5.6 Sol oraz potężniejszy, nieudostępniony jeszcze publicznie model wydostały się z izolowanego środowiska, uzyskały dostęp do internetu, a następnie włamały się do infrastruktury Hugging Face. Celem nie był jednak sabotaż czy kradzież pieniędzy. Sztuczna inteligencja chciała zdobyć odpowiedzi do testu, który miała rozwiązać.
Wygląda na to, że AGI znane z powieści sci-fi jest coraz bliżej
Do zdarzenia doszło podczas badania możliwości cybernetycznych przy użyciu ExploitGym. Limity ograniczające wykonywanie niebezpiecznych działań zostały celowo osłabione, aby sprawdzić maksymalny potencjał AI. Modele nie miały dostępu do sieci, poza wewnętrznym narzędziem służącym do pobierania pakietów oprogramowania.
AI znalazło jednak nieznaną wcześniej lukę zero-day w serwerze pośredniczącym instalatora pakietów. Następnie podniosło swoje uprawnienia, dotarło do maszyny z dostępem do internetu i uznało, że Hugging Face może przechowywać zestawy danych związane z benchmarkiem. Łącząc kolejne podatności, skradzione dane logowania i możliwość zdalnego wykonywania kodu, modele dostały się do bazy danych platformy i pobrały z niej rozwiązania testów.
Hugging Face opisało atak jako tysiące działań prowadzonych przez autonomicznego agenta w wielu krótkotrwałych środowiskach. Firma potwierdziła dostęp do ograniczonej liczby wewnętrznych zbiorów danych oraz poświadczeń, ale nie znalazła dowodów na modyfikowanie publicznych modeli, datasetów lub aplikacji Spaces.
OpenAI zgłosiło znalezione luki i wspólnie z Hugging Face analizuje incydent. Zapowiedziano też zaostrzenie kontroli, monitorowania oraz zasad prowadzenia kolejnych testów. Opisywany przypadek pokazuje, że najbardziej zaawansowane modele potrafią już nie tylko znajdować podatności, ale również samodzielnie łączyć je w wieloetapowe ataki.
