Białoruska aplikacja do rozbierania ludzi z pozwem od nastolatki
Siedemnastoletnia dziewczyna z New Jersey stoi za przełomowym pozwem przeciwko twórcom sztucznej inteligencji wykorzystywanej do tworzenia fałszywych, intymnych zdjęć bez zgody ofiar.
Nastolatka pozwała twórców aplikacji do generowania fałszywych nagich zdjęć
Sprawa dotyczy aplikacji ClothOff – kontrowersyjnego narzędzia AI, które może "rozbierać" osoby na zdjęciach, tworząc realistyczne deepfake'owe obrazy nagości. Powódka, gdy miała 14 lat, opublikowała na Instagramie zdjęcie w kostiumie kąpielowym. Kolega z klasy wykorzystał to zdjęcie w aplikacji ClothOff do wygenerowania fałszywych nagich obrazów, które następnie udostępnił znajomym.
Sprawa wyszła na jaw dopiero po czasie, wywołując traumę u nastolatki, która teraz "żyje w ciągłym strachu", że sfałszowane zdjęcia ponownie pojawią się w internecie.
Pozew został złożony przez profesora Yale Law School wraz z jego studentami i adwokatem procesowym. Oskarżony jest deweloper AI/Robotics Venture Strategy 3 Ltd., firma zarejestrowana na Brytyjskich Wyspach Dziewiczych, prawdopodobnie zarządzana z Białorusi.
Telegram został wskazany jako nominalny pozwany, ponieważ aplikacja udostępniała dostęp do ClothOff przez automatyczne boty.
Prawnicy stanowczo — aplikacja do skasowania, podobnie jak wszystkie wygenerowane obrazy
Prawnicy domagają się nakazania usunięcia i zniszczenia wszystkich nagich obrazów przechowywanych bez zgody przez operatorów ClothOff oraz zakazu wykorzystywania takich zdjęć do trenowania modeli AI. Argumentują, że tworzenie takich obrazów stanowi materiał przedstawiający seksualne wykorzystywanie dzieci.
Twórcy ClothOff zaprzeczają zarzutom, twierdząc na swojej stronie internetowej, że system nie może przetwarzać zdjęć nieletnich i automatycznie usuwa wszystkie dane. Reprezentant firmy stwierdził wcześniej, że ClothOff zabrania używania zdjęć osób bez ich zgody. Jednak prawnicy powódki kwestionują te twierdzenia, wskazując na liczne przypadki nadużyć.
Wbrew deklaracjom twórców, na stronie aplikacji mowa jest o możliwości rozebrania dowolnej dziewczyny:
Rozbierz dowolną dziewczynę. Korzystanie z możliwości sztucznej inteligencji Clothoff to żaden problem. Nasze AI pozwala zdjąć ubrania z każdej dziewczyny. Wystarczy, że prześlesz swoje zdjęcie, dostosujesz dostępne narzędzia dostosowywania i poczekasz, aż sztuczna inteligencja zrobi swoje. Uzyskaj nieograniczony dostęp i odkryj wszystkie unikalne funkcje naszego zaawansowanego narzędzia do usuwania ubrań AI!
