AI popełnia rażące błędy w tej dziedzinie. W 70% przypadków się myli
Badania włoskich naukowców nie przyprawiają nas o optymizm. Wręcz przeciwnie, mogą nieco przygnębiać fanów nowych technologii. Wyniki obnażyły niewiedzę chatbotów w tematach medycznych. Okazało się, że chatboty wykorzystywane w medycynie popełniają błędy w 70% przypadków.
ChatGPT nie zna się na medycynie?
Mamy kolejny naukowy dowód na to, że sztuczna inteligencja nie zabierze nam wszystkim pracy. Przynajmniej, jeśli chodzi o sektor medyczny, lekarze mogą spać spokojnie. Włoscy badacze właśnie udowodnili, że chatboty oparte na sztucznej inteligencji wykorzystywane w medycynie popełniają masę błędów. I to w 70% przypadków. Pomyłki wykryto w tak poważnych diagnozach, jak wykrywanie raka skóry i piersi.
Wyniki badań opublikowane zostały na łamach specjalistycznego pisma "European Journal of Pathology". Cały projekt badawczy trwał od 2023 roku, a wszelkie badania zostały przeprowadzone pod czujnym okiem Vincenzo Guastafierro z Instytutu Klinicznego i Uniwersytetu Humanitas w Rozanno, koło Mediolanu. Jego zespół przeanalizował odpowiedzi dostarczone przez ChatGPT w 200 przypadkach klinicznych, dotyczących różnych specjalizacji lekarskich.
Każdy z przedstawionych chatbotowi przypadków został przygotowany w ścisłej współpracy ze specjalistami z zakresu medycyny i zgodnie z najnowszymi wskazówkami diagnostycznymi.
ChatGPT jak nie wie, to wymyśla
Chatbot nie poradził sobie najlepiej w tej kwestii. Błędne odpowiedzi stwierdzono aż w 70% przypadków. Poza tym, zwrócono uwagę na niedokładne odwoływanie się do źródeł lub wręcz całkowicie wymyślone odpowiedzi w 30% przypadkach. Jeśli chodzi o najbardziej rażące błędy, jakie popełniał to były tematy związane z diagnozą raka piersi i skóry. Nie dość, że nie umiał zdiagnozować, to jeszcze udzielał mylnych odpowiedzi i cytował nieistniejące źródła medyczne.
Badania te stanowią niezbity dowód na to, aby nie ufać bezgranicznie chatbotom, w przypadku kiedy chodzi o tematy medyczne. Z każdą dolegliwością nadal jednak należy wybrać się do specjalisty, a nie liczyć na sztuczną inteligencję.
