ChatGPT dla dorosłych ze szczegółami. Część osób będzie zawiedziona
Chociaż tego typu materiały interesują miliony osób, to lider na rynku sztucznej inteligencji nie chce, by nieodpowiednie treści trafiały do najmłodszych.
OpenAI przygotowuje się do wprowadzenia długo zapowiadanego "trybu dla dorosłych" w ChatGPT. Nowa funkcja ma pozwolić użytkownikom na prowadzenie rozmów o charakterze erotycznym, ale w ograniczonej formie. Jak wynika z najnowszych informacji, na start mowa wyłącznie o czatach tekstowych, bez wsparcia dla generowania obrazów, wideo czy głosu.
To ma być erotyka, a nie pornografia
Pierwsze zapowiedzi tego trybu pojawiły się w październiku ubiegłego roku. To wtedy Sam Altman sugerował, że zespołowi udało się ograniczyć ryzyko związane z negatywnym wpływem AI na zdrowie psychiczne użytkowników na tyle, aby rozważyć wprowadzenie treści NSFW dla zweryfikowanych osób. Początkowo zakładano premierę jeszcze w Q4 2025, jednak niedawno poinformowano o przesunięciu prac, tłumacząc to koniecznością skupienia się na innych rzeczach. Niestety, nowa data wdrożenia nie została podana.
Za opóźnieniami stoją jednak nie tylko kwestie organizacyjne, ale też poważne wyzwania etyczne. Według doniesień, wewnętrzna rada doradcza ostrzegła firmę już w styczniu, że tryb dla dorosłych może zostać nadużyty. Wśród obaw pojawiły się scenariusze, w których chatbot mógłby wzmacniać niezdrowe przywiązanie emocjonalne lub trafić do osób niepełnoletnich.
Kluczowym problemem pozostaje moderacja treści. OpenAI musi znaleźć balans pomiędzy poluzowaniem zasad a jednoczesnym blokowaniem najbardziej niebezpiecznych scenariuszy, takich jak przemoc seksualna czy treści związane z wykorzystywaniem nieletnich. To znacznie trudniejsze niż w przypadku standardowych rozmów, bo granica między dopuszczalną erotyką a szkodliwym materiałem jest wyjątkowo cienka.
Dodatkowym wyzwaniem okazał się system weryfikacji wieku. W pewnym momencie algorytm OpenAI błędnie klasyfikował osoby w ok. 12% przypadków. Przy skali platformy, z której co tydzień korzysta nawet 100 milionów użytkowników poniżej 18 roku życia, oznaczałoby to potencjalnie miliony młodych osób uzyskujących dostęp do treści erotycznych.
Postawienie na tekst zamiast multimediów może jednak okazać się strategiczne. W wielu krajach przepisy wymagają ścisłej weryfikacji wieku w przypadku treści pornograficznych w formie obrazów czy wideo, ale nie obejmują one w takim samym stopniu erotyki tekstowej. Dzięki temu OpenAI może łatwiej poruszać się w ramach obowiązujących regulacji.
