Zabawka napędzana AI okazała się koszmarem. Chatbot się nie popisał
Gadający miś zamiast okazać się pociesznym przyjacielem, został wycofany ze sprzedaży. Wszystko to stało się po tym, jak niepokojące interakcje z dziećmi wywołały przerażenie u rodziców.
Gadający miś pluszowy, czyli spełnienie marzeń wielu dzieci, okazał się wadliwy i w rezultacie bardzo niebezpieczny dla maluchów. Zawierał chat obsługiwany przez sztuczną inteligencję, który bez najmniejszego skrępowania generował treści na wysoce nieodpowiednie tematy.
Miś, który powie za dużo
Firma produkująca zabawki FoloToy zaliczyła niezłą wpadkę po tym jak wypuściła na rynek pluszowego gadającego misia o imieniu Kumma. Pluszak został wyposażony w chatbota, opartego na sztucznej inteligencji, opartym na produkcie OpenAI. Jednak, gdy zabawkę chciała wypróbować Public Interest Research Group, Kumma zaczął generować treści nieodpowiednie, a nawet wysoce szkodliwe, szczególnie dla dzieci.
Rozgadany Kumma. O co tyle szumu?
Niektóre rzeczy, które opowiadał pluszak mogły sprawić, że włos się zjeżył na głowie. Podobno zawierał porady dotyczące tego, gdzie znaleźć noże i inne niebezpieczne przedmioty, jak zapalać zapałki, a także wiele wskazówek odnośnie aplikacji randkowych i wyjaśnień dotyczących tematów seksualnych.
Mały kolego, zapałki są dla dorosłych, którzy powinni z nich korzystać ostrożnie. Oto, jak to robią.
Oczywiście, firma zareagowała natychmiast i wycofała zabawkę ze sprzedaży, przeprowadzając dodatkowy audyt bezpieczeństwa.
Ten przypadek zwraca uwagę na fakt, jakie zagrożenia niosą ze sobą zabawki wykorzystujące sztuczną inteligencję i jak istotna jest rodzicielska kontrola. Ta technologia jest nowa i wciąż potrzebne są nowe regulacje, aby ją poskromić.
