Komitet Olimpijski zabrał się za hejterów. Nowe narzędzie w sieci

Bez AI walka z hejtem nie miałaby szans

Skala problemu jest tak duża, że bez użycia sztucznej inteligencji nikt nie byłby w stanie skutecznie walczyć hejtem wylewającym się na Olimpijczyków każdego dnia. Według MKOL Igrzyska Olimpijskie w Paryżu wygenerują ponad pół miliarda wpisów w social mediach. Nie mówiąc już o komentarzach, których liczba zapewne sięgnie kilku miliardów. Dla zobrazowania skali, samo przeczytanie tylu postów, nawet jeśli każdy z nich miał tylko 10 słów, zajęłoby 16 lat.

W Igrzyskach bierze udział 15 tysięcy sportowców i 2 tysiące sędziów. Z jednej strony jest to dla nich życiowy występ sportowy. Z drugiej jednak strony, wystawienie się na oczy całego świata, związane z presją i niestety często także hejtem płynącym z Internetu. Skala obrażania i ubliżania sportowcom w sieci jest tak duża, że zagraża ona ich zdrowiu psychicznemu. W ostatnim czasie, o sieciowym hejcie, wypowiadali się amerykańska tenisistka Sloane Stephens i piłkarz reprezentacji Anglii Jude Bellingham. Amerykanka przyznała, że po jednym meczu dostała aż 2000 obraźliwych wiadomości. Bellingham wyjawił publicznie, że praktycznie po każdym meczu dostaje wiadomości obrażające go na tle rasowym. Skala problemu jest tak duża, że angielska federacja piłkarska rozpoczęła współpracę z policją w celu stworzenia specjalnego oddziału do walki z internetowym hejtem wobec piłkarzy.

Przemoc wobec innych może przybrać formę fizyczną, ale może też odbywać się online. To co widać w społeczeństwie to narastający problem z przemocą online.

- mówi Kirsty Burrows z MKOL.

AI idzie na wojnę z hejtem - nowe narzędzie

MKOL zdecydował się na wykorzystanie algorytmów AI do walki z hejtem głównie z powodu ogromnej skali, której praktycznie nie da się okiełznać w inny sposób. Oczywiście istnieją systemy blokujące poszczególne słowa, jednak sposób w jaki ludzie potrafią obrażać bardzo często jest nie do wyłapania przez te filtry. Dlatego MKOL stworzył narzędzie AI o nazwie Threat Matrix. Algorytm, który wyłapuje nie tylko pojedyncze słowa. Mechanizm skupia się na analizie dużej ilości wpisów w social mediach wyłapując metody, wykorzystywane przez hejterów do obrażania swoich ofiar. Threat Matrix jest w stanie analizować nie tylko tekst ale także obrazy a nawet ikonki "emoji" oraz połączenie tych wszystkich elementów, które często w pojedynkę nie mają negatywnego wydźwięku, ale umieszczone razem mogą już być obraźliwe.

Skalę problemu obrazuje przykład chińskiej łyżwiarki Zhu Yi. Po jej słabym występie na Igrzyskach Olimpijskich w 2022 roku obrażający ją hashtag został obejrzany ponad 200 milionów razy w zaledwie kilka godzin tylko na jednej chińskiej platformie społecznościowej Weibo. Yi przyznała się niedawno, że po tych wydarzeniach do tej pory pracuje z psychologiem.

Według badań przeprowadzonych przez Emily Hayday z Uniwersytetu Loughborough w Wielkiej Brytanii zaledwie w ciągu trzech dni, w których prowadziła analizę w trakcie poprzednich Igrzysk w social mediach pojawiło się aż 240 tysięcy obraźliwych wpisów.

Hejt na profesjonalnych sportowców w social mediach przybrał niespotykaną do tej pory skalę. Sami sportowcy często nie są sobie w stanie poradzić z tym problemem. Niektórzy muszą leczyć się latami.

- mówi Hayday.

Stworzony na potrzeby MKOL Thread Matrix to nie jedyne narzędzie wykorzystujące możliwości AI do walki z hejtem. Podobne metody stosuje już organizator turniejów tenisowych ATP i WTA. Same platformy social media również zdają sobie sprawę ze skali problemu i wyrażają chęć współpracy z organizatorami rozgrywek w celu walki z internetowym hejtem.