Halucynacja AI zmyliła wojsko USA. O mało nie doszło do konfliktu

O mało co nie doszło do konfliktu zbrojnego między USA a Chinami. Wszystkiemu winny raport militarny skompilowany przy pomocy sztucznej inteligencji. Jak rozpętałem III wojnę światową. Prawie Nie tylko Barbara Mróz-Gorgoń popełnia błędy tworząc kluczowe dokumenty przy pomocy narzędzi sztucznej inteligencji. Tylko, że tym razem nie chodziło o zmarnowanie państwowych pieniędzy, tylko mogło dojść do wojny między USA a Chinami. Jak podaje CNN, siły militarne Stanów Zjednoczonych było o krok od wejścia na pokład chińskiego okrętu w oparciu o całkowicie zmyślony raport służb wywiadowczych USA. Błędne dane wywiadowcze, przekazane przez analityka z Dowództwa Operacji Specjalnych USA, sugerowały, że chiński statek przewoził elementy programu broni jądrowej przez Bliski Wschód. Amerykańskie siły zbrojne przygotowywały się do przechwycenia i wejścia na pokład statku przy wsparciu lotniczym. W ostatniej chwili urzędnicy odkryli, że chatbot wykorzystany do sporządzenia raportu "błędnie zidentyfikował materiał przewożony przez statek". Z raportu CNN wynika, żeże wspomniany analityk wykorzystał chatbota do analizy raportów wywiadowczych dotyczących listy ładunkowej chińskiego statku. Proces ten miał niemal katastrofalne skutki. Użyty chatbot "pomieszał informacje z otwartych źródeł z tajnymi danymi wywiadu sygnałowego", a następnie dokonał syntezy tych materiałów i te właśnie dane trafiły do raportu wywiadowczego. Jak widać, halucynacje AI są ogromnym problemem. Pomimo prób wzmocnienia przekazu dla dużych modeli językowych w stylu "nie halucynuj" w promptach, część naukowców jest zdania, że nie da się tego zjawiska wyeliminować. Niestety do takich sytuacji może dochodzić coraz częściej, gdyż amerykański Department Obrony w styczniu 2026 r. wdrożył strategię przyspieszenia wdrożenia AI. Zakłada ona udostępnienie wszystkich odpowiednich danych w ramach połączonych systemów informatycznych do wykorzystania przez sztuczną inteligencję, w tym systemów operacyjnych we wszystkich rodzajach sił zbrojnych i komponentach. Powyższa sytuacja wzmożyła dyskusję na temat bezpieczeństwa w temacie AI, regulacji takich rozwiązań i koordynacji wdrażania najnowszych rozwiązań zanim dojdzie do tragedii.