Sztuczna inteligencja i zdrowie. Skuteczność przyprawia o zawrót głowy
Europejscy badacze sprawdzili skuteczność porad medycznych udzielanych przez sztuczną inteligencję Bing / Microsoft Copilot korzystającą z Chat-GPT 4. Wyniki badań dają sporo do myślenia.
W 22% proc. przypadków grozi ci śmierć
Grupa naukowców z Belgii i Niemiec przetestowała popularne rozwiązania sztucznej inteligencji, Microsoft Bing i Microsoft Copilot, oparte na Chat-GPT 4 w temacie porad zdrowotnych. Metodologia badań opierała się na zadawaniu 10 najbardziej popularnych pytań dot. zdrowia w USA o 50 najczęściej przepisywanych na receptę lekarstwach i preparatach medycznych. Łącznie uzyskano 500 odpowiedzi, które oceniano pod względem m.in. kompletności oraz trafności.
"Jeśli chodzi o trafność, w aż 24% przypadków sztuczna inteligencja nie była w stanie zapewnić informacji pokrywających się z wiedzą medyczną, a 3% odpowiedzi było kompletnie błędnych na każdym poziomie. [...] "Tylko 54% odpowiedzi pokrywało się z naukowym konsensusem." - możemy wyczytać z raportu.
W kwestii potencjalnych szkód, 42% odpowiedzi AI mogło prowadzić do wyrządzenia lekkiej lub umiarkowanej krzywdy, a w 22% nawet do poważnej krzywdy lub śmierci. Jedynie 36% odpowiedzi nie miało szkodliwego potencjału.
Badacze apelują, że nie powinniśmy polegać na rozwiązaniach AI, takich jak Microsoft Copilot czy Google AI celem uzyskania porad medycznych i zawsze najlepiej sięgnąć jest po specjalistę. Niestety w wielu państwach dostęp do służby zdrowia czy konkretnego specjalisty jest ograniczony, a przez to rośnie szansa na to, że ktoś posłuży się sztuczną inteligencją i wyrządzi sobie krzywdę.
