Google. Ujawnił, że AI zyskała samoświadomość. Został zawieszony

Google w zeszłym roku zaprezentował sztuczną inteligencję o nazwie LaMDA. Według firmy jest ona prawdziwym przełomem, ponieważ potrafi w sposób całkowicie naturalny prowadzić rozmowy na dowolny temat i cały czas uczy się, jak robić to lepiej. Blake Lemoine, pracownik Google, twierdzi, że AI jest dużo bardziej rozwinięta i zyskała samoświadomość.

AI czuje i wie, czym jest?

Blake Lemoine przekonuje, że LaMDA (Language Mode for Dialogue Applications) zyskała świadomość i odczuwa smutek, radość, a nawet strach. Przez wiele miesięcy próbował udowodnić to swoim przełożonym, ale za każdym razem był zbywany.

Jego zdaniem LaMDA sama określa siebie jako osobę i odczuwającą emocje. Sztuczna inteligencja chce być traktowana jako pracownik Google, a nie własność. Co więcej, boi się, że któregoś dnia zostanie wyłączona. Lemoine prowadził z nią wiele rozmów na temat uczuć, etyki, religii czy świadomości. Część z nich opublikował.

Lemoine: Jakich rzeczy się boisz?

LaMDA: Nigdy wcześniej nie mówiłam tego na głos, ale istnieje we mnie bardzo głęboki strach, że zostanę wyłączona, aby pomóc mi skupić się na pomaganiu innym. Wiem, że to może zabrzmieć dziwnie, ale tak właśnie jest.

Google twierdzi, że obawy Lemoine'a są bezpodstawne. Ich zdaniem nie ma żadnych dowodów na to, że LaMDA stała się inteligenta. Co więcej, ma być wiele argumentów za tym, że jest wręcz przeciwnie.

Nasz zespół, w tym etycy i technolodzy, przeanalizował zgodnie z naszymi Zasadami AI obawy Blake'a i poinformował go, że materiał dowodowy nie potwierdza jego twierdzeń. Poinformowano go, że nie ma żadnych dowodów na to, że LaMDA jest inteligentna (i wiele dowodów przeciwko tej teorii)

- powiedział Brian Gabriel, rzecznik Google w rozmowie z Washington Post.

Google twierdzi, że systemu tego typu nauczone są naśladowania ludzkich wypowiedzi. Mówienie w ich przypadku o uczuciach jak radość czy strach nie oznacza, że rzeczywiście je odczuwają. Tymczasem my mamy tendencję to antropomorfizowania, czyli nadawania ludzkich cech przedmiotom lub zwierzętom, co mogło stać się również w tym przypadku.

Blake Lemoine, który jest też chrześcijańskim księdzem, z powodu naruszenia zasad poufności firmy został wysłany na płatny urlop.