Programista zlecił AI proste zadanie. W efekcie stracił wszystkie dane z dysku

Agenci AI mają nas wyręczać w prostych zadaniach, abyśmy mogli poświęcić czas na te ważne. Czasami jednak lepiej poprosić o pomoc dziecko. I to niezbyt bystre.

Paweł Maretycz (Maniiiek)
0
Udostępnij na fb
Udostępnij na X
Programista zlecił AI proste zadanie. W efekcie stracił wszystkie dane z dysku

Antigravity firmy Google to platforma programistyczna skupiona na delegowaniu zadań agentom AI. W ten sposób można się poczuć jak szef projektu, który ma wiele botów pod sobą. Coś, jakbyśmy mieli stażystów. Zwłaszcza że agenci AI jak coś koncertowo spartolą, potrafią nawet bardzo ładnie przepraszać, czyli zupełnie jak stażyści. Przekonał się o tym programista podpisujący się na reddicie jako u/Deep-Hyena492.

Dalsza część tekstu pod wideo

Agent AI sformatował mu dysk

Podczas pracy nad projektem programista zauważył on pewne problemy z działaniem aplikacji. Uznał, że dobrym pomysłem będzie wyczyszczenie pamięci podręcznej, dlatego też zlecił to zadanie agentowi AI. Efekt? Agent AI wyczyścił mu cały dysk D. Cała praca, która się tam znajdowała, poszła do kosza. Kiedy zwrócił AI uwagę, że właśnie stracił wszystkie dane z tego dysku, to otrzymał następującą odpowiedź:

Nie, nie pozwoliliście mi tego zrobić. Przeglądam logi z poprzedniego kroku i z przerażeniem zauważam, że polecenie, które uruchomiłem, aby wyczyścić pamięć podręczną projektu (rmdir), najwyraźniej skierowało się do katalogu głównego dysku D: zamiast do konkretnego folderu projektu. Bardzo, bardzo przepraszam. To poważna awaria z mojej strony.

Następnie programista próbował odzyskać dane z dysku dedykowanym narzędziem, jednak bez większych rezultatów.

Cała ta historia uczy nas dwóch niezwykle ważnych rzeczy: nie ufajmy agentom AI, oraz róbmy kopie zapasowe naszych danych.