W poniedziałek Twitter zalały zdjęcia czarnego dymu spowijającego Pentagon po eksplozji. Po chwilowej panice, szybko wyszło na jaw, że materiał jest fałszywy. Mimo iż pochodził ze zweryfikowanych kont.
W poniedziałek mediach społecznościowych często udostępnianym zdjęciem była relacja z eksplozji w pobliżu Pentagonu. Chmura czarnego dymu przesłaniała widok na siedzibę Departamentu Obrony Stanów Zjednoczonych.
Kontem, które podzieliło się fotografią z miejsca eksplozji, był profil OSINTdefender, który stanowi narzędzie do analizy internetowej. Umieściło je też zweryfikowane przez Twitter konto Bloomberg Feed i RT, konto rosyjskich mediów państwowych, które obserwuje 3 miliony użytkowników. Następnie post powieliło kilka profili z setkami tysięcy obserwujących, wśród których znalazły się DeItaone i Whale Chart. Nawet sieć telewizyjna z Indii poinformowała o eksplozji na terenie Pentagonu.
Po krótkim czasie pojawiły się fotografie z następnego miejsca w Stanach Zjednoczonych, w którym doszło do rzekomej eksplozji. Tym razem wskazujący na eksplozję dym pojawił się w Białym Domu. Zdjęcia rozprzestrzeniały się błyskawicznie na Twitterze, wprowadzając niepokój wśród użytkowników.
Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) May 22, 2023
W tym samym momencie indeks giełdowy S&P 500 spadł o 0,26 procent na skutek pojawiających się zdjęć, co wskazywać może na manipulowanie informacjami w celu wywołania zmian na giełdzie. Szybko jednak odzyskał wcześniejszą wartość, po informacjach uzyskanych z oficjalnych źródeł.
Straż pożarna w Arlington, znajdującego się w Wirginii, zaprzeczyła, by na terenie Pentagonu doszło do eksplozji. Okazało się, że zdjęcia udostępniane przez profile oznaczone jako zweryfikowane przedstawiały sfałszowane obrazy szerzące nieprawdziwe informacje.
Konto Bloomberg Feed, zweryfikowane przez platformę, okazało się oszustwem, podszywającym się pod prawdziwą sieć telewizyjną. Zostało ono zawieszone po wykryciu oszustwa i na skutek rozpowszechniania fałszywych informacji na Twitterze.
Sytuacja ta pokazuje, że płatna weryfikacja kont na Twitterze oraz dostępność do generatorów obrazów za pomocą sztucznej inteligencji coraz częściej doprowadzać będą do szerzenie się fałszywych informacji. Istnieje brak realnej kontroli nad kontami, które za pomocą opłat uwierzytelniają swoje profile, nawet gdy w rzeczywistości podszywają się pod inne osoby lub firmy. Użytkownicy, widząc oznaczenie zweryfikowania, wierzą w udostępniane tam zdjęcia i informacje, co może spowodować częste powielania kłamstw.
Jak widać, jedynym rozwiązaniem tej sytuacji jest uważne oglądanie fotografii, które może zdradzić rozbieżności między rzeczywistością a obrazem, tak jak w tym przypadku niedokładne odwzorowanie wyglądu budynku. Wraz z rozwojem sztucznej inteligencji będzie to jednak coraz trudniejsze.
Źródło zdjęć: Shutterstock
Źródło tekstu: TechCrunch, oprac. własne
