Wiadomo już, dlaczego ChatGPT czasem tak bezsensownie się wypowiada

Duże modele językowe, takie jak ChatGPT oraz LLaMA, stały się sławne z powodu swoich płynnych, ale też i często niepokojąco ludzkich odpowiedzi. I choć w większości przypadków bywają pomocne, to jednak faktem jest, że miewają problemy z produkowaniem błędnych informacji. Nowe badanie AI sugeruje, że sposób w jaki sztuczna inteligencja przetwarza informacje wykazuje zaskakujące podobieństwo do sposobu, w jaki funkcjonują pewne zaburzenia mózgu u człowieka.

Badania przeprowadzili naukowcy z Uniwersytetu w Tokio. Zbadali oni wewnętrzną dynamikę sygnału dużych modeli językowych i porównali ze wzorcami aktywności mózgu występującymi u osób z afazją Wernickiego, stanem, w którym osoby wypowiadają się płynnie, ale często bezsensownie i chaotycznie. Tak dużych podobieństw się nie spodziewano. 

Naukowcy posłużyli się metodą zwaną analizą krajobrazu energetycznego, aby zmapować, w jaki sposób informacje przemieszczają się w mózgach ludzkich oraz w systemach AI. Wykorzystanie tej techniki pomogło zwizualizować co się dzieje "w środku".

W obu przypadkach naukowcy odkryli nieregularne oraz sztywne wzorce, które to właśnie wpływały na fakt, że komunikacja stawała się momentami bezsensowna. Odkryto, że modele AI mają podobne wzorce do osób z afazją.  

Badanie to rzuca całkiem nowe światło na to, w jaki sposób sztuczna inteligencja przetwarza informacje. Pomimo swoich ogromnych zasobów treningowych, AI może nie generować użytecznych odpowiedzi. Nie dlatego, że nie działa ona prawidłowo, ale dlatego że jej wewnętrzna struktura przypomina często rodzaj sztywnego przetwarzania wzorców, podobnie jak w przypadku afazji.

Dla inżynierów to cenna wiedza, jeśli chodzi o wzór budowania systemów, które gromadzą i organizują wiedzę. Zrozumienie podobieństw przypadków to klucz do stworzenia coraz to inteligentniejszych rozwiązań.