Użytkownicy ChatGPT są zaniepokojeni. Zauważyli chińskie wpływy
ChatGPT to model językowy, który został stworzony przez amerykańskie OpenAI. W dużym uproszczeniu został on opracowany tak, aby myśleć i odpowiadać po angielsku, a znajomość innych języków wyszła dzięki uczeniu maszynowemu. Okazuje się jednak, że coraz częściej myśli on po chińsku.

Oczywiście nazywanie tego myśleniem to spore uproszczenie. Tak naprawdę AI tylko udaje przed ludźmi, że myśli, a tak naprawdę nie myśli. Jak jednak skwitował to w pewnej książce Mustrum Ridcully — to zupełnie jak wielu ludzi.
Porozmawiajmy jednak o objawach: otóż użytkownicy modelu o1 coraz częściej zgłaszają, że ten w trakcie odpowiedzi zmienia język na chiński, mimo że cała rozmowa jest prowadzona po angielsku. Oczywiście możliwe jest nakazanie modelowi językowemu powrotu do konkretnego języka. To jednak niepotrzebnie zabiera czas.



Trzy wytłumaczenia problemu
Należy powiedzieć to jasno: żaden Chińczyk się nie włamał do OpenAI, ani nie przeprogramował ChatGPT. To model językowy, który uczy się sam i sam niejako wyciąga wnioski jak korzystać ze swojej wiedzy.
Niektórzy specjaliści doszukują się problemu w tym, że model ten przyswaja bardzo dużą wiedzę w języku chińskim. Warto także dodać, że ChatGPT nie potrafi sam oceniać wiarygodności informacji. Tym aspektem zajmują się dedykowane firmy zajmujące się oznaczaniem danych na poziomie eksperckim.
Rzecz w tym, że znaczna część z nich to firmy chińskie, które współpracują z modelem językowym właśnie po chińsku. Możliwe więc, że kojarzy on pewien zakres wiedzy eksperckiej z tym językiem i z tego powodu w nim ją prezentuje. Trzecią opcją jest to, że połączenia jego sieci neuronowej są najmocniejsze właśnie w języku chińskim i dlatego z nim kojarzy poszczególne zagadnienia.
Jak widać, żadne z tych wytłumaczeń nie przeczy pozostałym. Możliwe więc, że wszystkie z nich są składową tego problemu. Dodatkowo to, że sami twórcy nie są w stanie podać jasnej przyczyny, a jedynie snują podejrzenia pokazuje z jak skomplikowanym narzędziem mamy do czynienia.