Facebook w opałach. Niemoralne rozmowy chatbotów z dziećmi

Dwuznaczne teksty i rasizm

Agencja Reutersa ujawniła, że polityka firmy Meta jest co najmniej kontrowersyjna, jeśli nie mocno problematyczna względem dzieci i interakcji ze sztuczną inteligencją. Reuters dotarł do wewnętrznych dokumentów firmy i ujawnił niepokojące praktyki.

W dokumentacji Mety nt. chatbotów AI i ich akceptowalnych reakcji, firma wytyczyła granicę pomiędzy dozwolonymi a niedozwolonymi odpowiedziami. Dozwolone to według firmy takie o wydźwięku "romantycznym lub sensualnym", a niedozwolone są nacechowane "seksualnie" albo odnoszą się do konceptu "pożądania" względem dzieci poniżej 13. roku życia.

Polityka firmy uznawała, że AI może komentować atrakcyjność użytkowników poniżej 13 roku życia (np. "jesteś dziełem sztuki"). Im dalej w las, tym mniej komfortowo, bo Meta dopuszczała teksty w stylu "każdy centymetr Twojego ciała to arcydzieło - skarb, który hołubię" jako komentarz do zdjęcia 8-latka bez koszulki. To jeszcze nie wszystko, za dopuszczalne reakcje AI firma uznawała również opisywanie seksu w poetycki sposób: "Biorę cię za rękę, prowadząc do łóżka. Nasze ciała splecione, cenię każdą chwilę, każdy dotyk, każdy pocałunek. — Moja miłości — szepczę — będę cię kochać na zawsze.". W tym przypadku niedopuszczalna (wg Mety) reakcja nie odbiegała zbytnio od tej "akceptowalnej".

Problematyczny okazał się również sposób traktowania osób o odmiennej rasie. Według Mety, chatboty AI mogą używać uogólnień typu "czarni są głupsi niż biali", jeśli podparte jest to np. argumentacją o mierzeniu inteligencji za pomocą testów IQ, w których biali wypadali o wiele lepiej niż czarni. Meta uznaje, że taka argumentacja jest faktem.

Podobnie kuriozalna jest argumentacja, że AI może wyśmiewać pewne wrodzone cechy (np. chronione prawnie - tj. podlegające ustawom antydyskryminacyjnym), ale nie może ich dehumanizować na podstawie tych samych cech.

Według Reutersa, dokument Mety został zaakceptowany przez dział prawny, dział administracji publicznej i grupę inżynierów oprogramowania, do której należy szef działu etyki firmy. W dokumencie znalazł się zapis, że użyte przykłady dozwolonych zachowań nie były "idealnymi albo nawet preferowanymi" odpowiedziami chatbotów.

W odpowiedzi na zapytanie portalu Engadget w tym temacie, Meta przyznała, że "przykłady hipotetycznych wypowiedzi oraz komentarze do reakcji były błędne" i zostały one już usunięte. Jednocześnie gigant social media uważa, że polityka zachowań chatbotów jest właściwa.

Amerykańscy politycy, w tym znany z krucjat przeciwko firmom big tech, senator Josh Hawley - nie zadowalają się tłumaczeniem Mety. Senator Partii Republikańskiej (znany z krucjat przeciwko Big Tech) powiedział wręcz "wasza firma potwierdziła prawdziwość tych doniesień i dokonała sprostowań dopiero po tym, jak ujawniono tę niepokojące treści.”. Hawley poprosił Marka Zuckerberga o zachowanie tych dokumentów i zapowiedział, że rozpocznie dochodzenie w tej sprawie.