ChatGPT jest pod kontrolą specjalistów od zdrowia psychicznego, ale reakcja niektórych użytkowników budzi niepokój
Coraz więcej mówi się o tym, że ChatGPT i inne modele językowe mogą negatywnie wpływać na zdrowie psychiczne. OpenAI zabrało głos.
Co więcej, po tym, jak OpenAI to zrobiło, to w sieci zaczęły pojawiać się krytyczne komentarze wobec stanowiska firmy. Często dość niepokojące komentarze. Bo widzicie: gigant nie zamiata sprawy pod dywan. Nie twierdzi, że problemu nie ma. Firma opisała swój mechanizm, który wykrywa problemy ze zdrowiem psychicznym użytkowników, w tym te sugerujące zachowania autodestrukcyjne, oraz uzależnienia emocjonalnego od ChatGPT. Firma pochwaliła się także, że jej model językowy lepiej sobie radzi z rozpoznawaniem niepokojących zachowań ze strony rozmówcy.
OpenAI o zdrowiu psychicznym użytkowników ChatGPT
Firma otwarcie przyznała, że ChatGPT jest w stanie z dużą skutecznością rozpoznawać objawy manii i psychozy u użytkowników, które mają dotyczyć aż 0,07% tej grupy. Jednak wciąż ma duże problemy z rozpoznawaniem depresji i emocjonalnego uzależnienia od AI, które zidentyfikowano u 0,15%. Warto dodać, że w ustaleniach tych brali udział lekarze kliniczni zajmujący się zdrowiem psychicznym.
To wywołało falę krytyki. Część osób słusznie obserwowała, że zdania specjalistów przedstawione w badaniu są dość rozbieżne i nie ma mowy między nimi o konsensusie naukowym. Pojawiły się także oskarżenia o to, że OpenAI mimo wszystko stara się bagatelizować problem i mu umniejszać. Jednak nie to mnie niepokoi.
Otóż część użytkowników uważa, że nakładanie ograniczeń na ChatGPT, aby ten odpowiednio reagował na patologiczne zachowania użytkowników, wskazujące na problemy ze zdrowiem psychicznym są czymś... co nie powinno być nigdy nakładane. Uzasadniają to tym, że są przecież dorośli i sami wiedzą co dla nich jest najlepsze, oraz tym, że to zaburzy ich relację z ChatGPT.
Zachowują się przy tym równie agresywnie jak osoba uzależniona, której zasugeruje się, że jej nałóg jest szkodliwy dla niej i osób w jej otoczeniu. Mówię tu o mechanizmie, który sam dość często obserwowałem u wieloletnich palaczy, którzy samą sugestię, żeby nie palić w danym miejscu, często odbierają jako osobistą zniewagę. To tylko pokazuje, że uzależnienie do AI to realny problem.
