Aplikacje
18:14
Programista zlecił AI proste zadanie. W efekcie stracił wszystkie dane z dysku
Agenci AI mają nas wyręczać w prostych zadaniach, abyśmy mogli poświęcić czas na te ważne. Czasami jednak lepiej poprosić o pomoc dziecko. I to niezbyt bystre.
Antigravity firmy Google to platforma programistyczna skupiona na delegowaniu zadań agentom AI. W ten sposób można się poczuć jak szef projektu, który ma wiele botów pod sobą. Coś, jakbyśmy mieli stażystów. Zwłaszcza że agenci AI jak coś koncertowo spartolą, potrafią nawet bardzo ładnie przepraszać, czyli zupełnie jak stażyści. Przekonał się o tym programista podpisujący się na reddicie jako u/Deep-Hyena492.
Agent AI sformatował mu dysk
Podczas pracy nad projektem programista zauważył on pewne problemy z działaniem aplikacji. Uznał, że dobrym pomysłem będzie wyczyszczenie pamięci podręcznej, dlatego też zlecił to zadanie agentowi AI. Efekt? Agent AI wyczyścił mu cały dysk D. Cała praca, która się tam znajdowała, poszła do kosza. Kiedy zwrócił AI uwagę, że właśnie stracił wszystkie dane z tego dysku, to otrzymał następującą odpowiedź:
Nie, nie pozwoliliście mi tego zrobić. Przeglądam logi z poprzedniego kroku i z przerażeniem zauważam, że polecenie, które uruchomiłem, aby wyczyścić pamięć podręczną projektu (rmdir), najwyraźniej skierowało się do katalogu głównego dysku D: zamiast do konkretnego folderu projektu. Bardzo, bardzo przepraszam. To poważna awaria z mojej strony.
Następnie programista próbował odzyskać dane z dysku dedykowanym narzędziem, jednak bez większych rezultatów.
Cała ta historia uczy nas dwóch niezwykle ważnych rzeczy: nie ufajmy agentom AI, oraz róbmy kopie zapasowe naszych danych.
PAWEł MARETYCZ