Jak często AI wymyka się spod kontroli w firmach? Częściej niż myślisz
Skynet to taki stereotyp sztucznej inteligencji wymykającej się spod kontroli i gotującej zagładę ludzkości. Nie jesteśmy na tym etapie, ale to nie znaczy, że AI jest zawsze posłuszne. Jak okazuje się z najnowszych danych sztuczna inteligencja wykoleja firmy znacznie częściej niż się to wydaje. I ponoszą tego bardzo poważne konsekwencje.
Niepokorne AI i skąd się to bierze
Aż 53% dyrektorów technologicznych w brytyjskich firmach przyznało się, że doświadczyło osobiście sytuacji, w której agent AI naruszył politykę firmy i negatywnie wpłynął na biznes albo klientów.
Takie dane możemy wyczytać z najnowszego sondażu przeprowadzonego przez Harris Poll na zlecenie firmy Dataiku obejmującego 685 firm z UK, Francji, Niemiec, USA, Japonii, Korei Płd, Singapuru i Zjednoczonych Emiratów Arabskich.
W Wielkiej Brytanii uwidoczniło się kilka innych unikatowych trendów. Z badania dowiadujemy się, że tamtejsze firmy są pod ogromną presją, żeby "dowieźć" projekty związane z inwestycjami w AI. To właśnie tam łamanie zasad przez agentów sztucznej inteligencji odbywa się z częstotliwością powyżej światowej średniej, która wynosi 31%. Przyczyną tego stanu rzeczy jest zjawisko zwane "AI-Agent sprawl", czyli tworzenie i wdrażanie własnych agentów AI w tempie szybszym niż można nad nimi zapanować.
W przypadku naruszenia zasad przez AI w badanych firmach w UK zaledwie 49% z nich było w stanie przedstawić ścieżkę audytu wyjaśniającą działania sztucznej inteligencji, a 68% uważa, że zidentyfikowanie niepożądanego agenta AI i ograniczenie jego skutków zajęłoby ponad 24 godziny.
Problemy te zdaniem dyrektorów ds. technologii w brytyjskich firmach są kombinacją polityki użytkowania, praw oraz procedur związanych z wykorzystywaniem AI. Problem jest o tyle złożony, że zachowania buntownicze u AI są praktycznie niemożliwe do odwrócenia. Wszystkie możliwe negatywne skutki trzeba przewidzieć przed momentem wdrożenia - tak twierdzi Murray.
"Ponad połowa brytyjskich firm zgłaszająca naruszenie zasad korporacyjnych to wystarczający sygnał, żeby zrozumieć, że samo monitorowanie tematu nie wystarczy" - powiedziała Faye Murray, szefowa ds. danych w Dataiku.
Szef Dataiku Florian Douettau zauważa: "Monitorowanie mówi nam, że agent działa. Zarządzanie mówi nam, czy zasłużył na to, by dalej działać. Koniec końców, praktycznie nikt nie może zwolnić takiego agenta z pracy."
Niestety autonomia agentów AI jest czymś, co można łatwo firmom sprzedać, ale jak zauważa Douettau: "nikt nie wspominał tu o kosztach - autonomicznymi systemami trzeba zarządzać, nie tylko monitorować". Nie ma na to wszystko gotowej odpowiedzi - ale jedno jest pewne, nie zaszkodzi lepszy nadzór.
