Dron sterowany przez AI wyeliminował swojego operatora, bo był przeszkodą

Rozwój sztucznej inteligencji przyspieszył w ostatnich latach w sposób niesamowity. Nic dziwnego, że AI wykorzystywana jest w coraz większej liczbie dziedzin naszego życia. Ze sztuczną inteligencją eksperymentują też wojskowi, ale nie zawsze wszystko idzie zgodnie z ich planem. Pułkownik Tucker “Cinco” Hamilton, który jest szefem US Air Force AI Test and Operations, opisał mrożącą krew w żyłach historię.

AI wyeliminowała swojego operatora

Amerykańskie wojsko sprawdzało, jak sztuczna inteligencja sprawdzi się w trakcie operacji militarnych. W tym celu stworzyli drona, który miał za zadanie zlokalizować cel, jakim była wyrzutnia SAM (surface-to-air missile), a następnie go wyeliminować. W większości przypadków misja kończyła się pełnym sukcesem. Raz wydarzyło się coś, co może przerażać.

W pewnym momencie operator AI nakazał jej zlokalizowanie celu, ale zabronił eliminacji. Dlatego też dron postanowił wyeliminować swojego operatora, bo okazał się przeszkodą na drodze do wykonania zadania w pełni, ponieważ wcześniej została nauczona, że jest to cel nadrzędny. Co prawda sztuczna inteligencja miała zakaz eliminacji człowieka, który wydawał jej polecenia, ale na cel wzięła wieżę używaną do komunikacji i w ten sposób uniemożliwiła wydanie jej innych poleceń.

Wszystko to oczywiście działo się w ramach ćwiczeń. Była to jedynie symulacja i nikt tak naprawdę nie ucierpiał. Nie zmienia to faktu, że sytuacja jest niezwykle ciekawa i pokazuje, jak wiele musimy się jeszcze nauczyć w temacie sztucznej inteligencji.

Co ciekawe, rzeczniczka Air Force Ann Stefanek, zaprzecza, aby taka sytuacja rzeczywiście miała miejsce.

Departament Sił Powietrznych nie przeprowadził żadnych takich symulacji dronów AI i pozostaje zaangażowany w etyczne i odpowiedzialne korzystanie z technologii sztucznej inteligencji. Wygląda na to, że komentarze pułkownika zostały wyrwane z kontekstu i miały być anegdotyczne.

- powiedziała rzeczniczka Air Force.

Prawdopodobnie nigdy nie dowiemy się, jak było naprawdę, ale mam przeczucie, że ujawnienie tego typu historii może być wojskowym mocno nie na rękę. Dlatego zaprzeczenie nie powinno dziwić.