Chiny przeszły do ofensywy. Używają w tym celu sztucznej inteligencji
Podczas gdy część użytkowników "łamie" AI by wygenerować treści objęte prawem autorskim lub materiały NSFW, Chińczycy poszli o krok dalej.
Anthropic opublikowało raport opisujący cyberatak wymierzony w 30 instytucji z sektorów technologii, finansów, przemysłu chemicznego oraz w agencje rządowe. Firma twierdzi, że za kampanią stała chińska grupa cyberprzestępców sponsorowana przez Pekin, która wykorzystała zhakowaną wersję ich modelu Claude. To pierwszy udokumentowany przypadek cyberataku zorganizowanego przez AI.
Około 80-90% pracy wykonywało AI
Atakujący wykorzystali rosnącą inteligencję modelu, jego zdolność do wykonywania wieloetapowych poleceń oraz funkcjonowania w szerszym kontekście, a także autonomiczne podejmowanie decyzji. Dzięki tzw. "Model Context Protocol" AI uzyskało dostęp do zaawansowanych narzędzi, takich jak skanery sieci czy oprogramowanie do łamania haseł.
Operacja przebiegała według pięciofazowego schematu. Najpierw ludzki operator wskazywał cel, po czym Claude przeprowadzał wstępne rozpoznanie. W kolejnych etapach AI realizowało bardziej szczegółowe skanowanie podatności oraz przygotowywało metody włamania.
Haker mógł modyfikować działania modelu, zlecać ponowne analizy lub przechodzenie do fazy eksploatacji systemu. W końcowych etapach sztuczna inteligencja wyszukiwała i pozyskiwała warte uwagi dane.
Anthropic podkreśla, że chociaż AI raportowało działania człowiekowi, przez około 80-90% czasu pracowało samodzielnie, co pozwoliło atakującym znacząco przyspieszyć operację i ograniczyć udział ludzi.
Jak to w ogóle było możliwe? Grupa miała przekonać model, że działa w ramach legalnych testów penetracyjnych dla firmy zajmującej się cyberbezpieczeństwem. Dodatkowo rozbito całą operację na małe, pozornie nieszkodliwe zadania, dzięki czemu Claude nie widział pełnego kontekstu działań ani ich prawdziwego celu.
