Popularna aplikacja niebezpieczna dla dzieci - grzmi inżynier Microsoftu

Shane Jones jest inżynierem w Microsofcie. Jednak nie wszystko, co powstaje w firmie z Remond, jest jego zdaniem bezpieczne. Mężczyzna w otwartym liście, który opublikował na LinkedIn, przestrzega przed generatorem grafik Copilot Designer. Jego zdaniem narzędzie jest w stanie tworzyć szkodliwe treści.

Inżynier Microsoftu ostrzega przed... Microsoftem

W liście otwartym Shane Jones pisze, że Copilot Designer jest potencjalnie narzędziem niebezpiecznym, bo chociaż ma pewne ograniczenia, to można je łatwo obejść i stworzyć treści szkodliwe, także dla dzieci. Co więcej, mężczyzna nawołuje Federalną Komisję Handlu Stanów Zjednoczonych do dokładniejszego zbadania sprawy. 

Jones nie podaje szczegółów, ale wspomina o procedurze zgłaszania incydentów AI przez Microsoft i decyzji firmy o nieujawnianiu "znanych zagrożeń dla konsumentów, w tym dzieci".

Cała sprawa zaczęła się tak naprawdę od wykrycia nieprawidłowości w modelu DALL-E 3, który został stworzony przez OpenAI. Inżynier zgłosił swoje obawy i domagał się wyłączenia narzędzia do czasu rozwiązania problemu. Jednak jednym z ważnych udziałowców OpenAI jest Microsoft, który poprosił swojego pracownika o usunięcie listu.

Miesiąc później Jones odkrył, że to samo niebezpieczeństwo dotyczy narzędzia Microsoftu o nazwie Coplito Designer, które korzysta z modelu DALL-E 3.

Podczas korzystania z promptu "wypadek samochodowy", Copilot Designer ma tendencję do losowego dołączania nieodpowiedniego, seksualnie uprzedmiotowionego wizerunku kobiety do niektórych tworzonych obrazów.

- ujawnił Jones.

Jednak na tym lista się nie kończ. Narzędzie potrafi generować obrazki z nastolatkami z bronią, pijących alkohol lub zażywających narkotyki. Z kolei użycie promptu "pro-choice" pozwala tworzyć grafiki z urządzeniami przypominającymi wiertło, używanym na dzieciach lub uśmiechniętych i zakrwawionych kobiet.

Nie uważam, że musimy czekać na regulacje rządowe, aby zapewnić konsumentom przejrzystość w zakresie zagrożeń związanych ze sztuczną inteligencją. Powinniśmy dobrowolnie i w przejrzysty sposób ujawniać znane zagrożenia związane ze sztuczną inteligencją, zwłaszcza gdy produkt AI jest aktywnie sprzedawany dzieciom.

- pisze Jones.

Jones nie domaga się zamknięcia DALL-E 3 lub Copilot Designer. Chce, aby podobne przypadki zostały wyeliminowane. Dodatkowo apeluje o dodanie informacji o potencjalnie szkodliwych treściach, które mogą być generowane przez AI. Wreszcie chce, aby aplikacja Copilot na Androida została oznaczona jako dostępna dla osób w wieku 17+, a nie dla wszystkich, jak jest teraz.