Gdy ChatGPT uparcie twierdzi, że zabiłeś swoje dzieci
ChatGPT jest obecnie tym samym w świecie AI, czym Google w świecie wyszukiwarek. W obu przypadkach popularny nie znaczy jednak najlepszy, o czym boleśnie przekonał się Arve Hjalmar Holmen.
Kim jesteś? Jesteś mordercą!
Holmen po zapytaniu ChatGPT kim jest nie uwierzył co właśnie przeczytał. Amerykański model sztucznej inteligencji uparcie twierdził, że został skazany za zamordowanie dwójki swoich dzieci oraz próbę zabójstwa trzeciego. Według relacji chatu, odsiaduje teraz 21-letni wyrok w Norwegii.
Trudno powiedzieć, czy model językowy dostał tzw. halucynacji, czy też może w jakiś sposób połączył informacje na temat 2 osób o zbliżonych imionach i nazwiskach, niemniej żadne techniczne tłumaczenia Holmenowi nie wystarczą — poszedł se swoją sprawą prosto do sądu.
Austriacka organizacja Noyb złożyła w norweskim urzędzie ochrony danych (Datatilsynet) pozew przeciwko ChatGPT w imieniu Holmena za przedstawienie go jako skazanego mordercy. Pozew zarzuca, że usługa OpenAI naruszyła unijne przepisy dotyczące ochrony prywatności danych.
RODO jest jasne. Dane osobowe muszą być dokładne. Jeśli nie są, użytkownicy mają prawo żądać ich poprawienia, aby odzwierciedlały prawdę. Pokazywanie użytkownikom ChatGPT małego zastrzeżenia, że chatbot może się mylić, wyraźnie nie wystarcza. Nie można po prostu rozpowszechniać fałszywych informacji i na końcu dodawać małej adnotacji, że wszystko może być nieprawdą.
Oprócz usunięcia krzywdzących danych, organizacja domaga się od OpenAI nałożenia kary finansowej. Jeśli to się uda, dojść może do interesującego precedensu i przynajmniej lokalnie bzdury z chatów sztucznej inteligencji będą musiały zniknąć.
