ScamWatch ma tropić oszustów. Brzoska rzuca wyzwanie Mecie

Scam to już nie pojedyncze fałszywe reklamy

Analiza tysięcy internetowych reklam pokazuje skalę problemu. Oszuści chętnie podszywają się pod marki, którym użytkownicy ufają. Wśród wykorzystywanych nazw i wizerunków znalazły się między innymi TVN24, Gazeta.pl, wPolsce24, LOTTO, PKO BP, PGE, Allegro, InPost, NFZ czy Poczta Polska.

Mechanizm jest prosty, ale coraz trudniejszy do wykrycia. Fałszywe logotypy, paski informacyjne, nagłówki czy całe studia telewizyjne mają stworzyć pozory wiarygodności. Do tego dochodzą osoby publiczne, których wizerunek jest wykorzystywany bez zgody. AI dodatkowo ułatwia produkcję deepfake’ów twarzy i głosu.

Dlatego samo usunięcie jednej reklamy niewiele daje. ScamWatch ma szukać powiązań między reklamą, domeną, infrastrukturą oraz innymi kampaniami. Dzięki temu możliwe ma być znalezienie całej sieci reklam działających w ramach jednej operacji.

Ofiarą może zostać także dziecko

Problem nie ogranicza się do pieniędzy. Wśród analizowanych treści znalazły się materiały, które mogą wywoływać strach lub prowadzić do naruszenia prywatności. Dziecko może natknąć się na fałszywą informację o śmierci rodzica. Innym zagrożeniem są deepfake’i seksualizujące czy reklamy narzędzi pozwalających "rozebrać" osobę ze zdjęcia.

W takim przypadku nie musi dojść do żadnego przelewu. Szkoda może polegać na upokorzeniu, strachu albo wykorzystaniu czyjegoś wizerunku. To pokazuje, że problem scamów jest szerszy niż tylko wyłudzanie pieniędzy.

ScamWatch ma zbierać dowody

Za rozwiązaniem stoją Sebastian Kondracki, założyciel startupu Augurium i prezes Bielik.AI, oraz zespół polskich specjalistów od AI. Użytkownik zgłasza podejrzaną reklamę za pomocą formularza. System analizuje jej obraz i treść, sprawdza domenę oraz infrastrukturę i szuka podobnych materiałów.

Dzisiaj problemem nie jest brak pojedynczych danych, ale brak możliwości połączenia ich w jeden, możliwy do zweryfikowania obraz. Jeśli chcemy identyfikować całe operacje scamowe, musimy analizować jednocześnie reklamę, jej treść, domenę, infrastrukturę i powiązania z innymi kampaniami. Technologia może tę lukę wypełnić, ale nie powinna zastępować odpowiedzialności platform ani regulacji.

Stworzyliśmy system będący w praktyce autonomiczną fabryką agentów, który pozwala dostarczyć platformom dowód, a nie kolejny sygnał do sprawdzenia. W rozwiązaniu opracowanym przez inżynierów z Augurium pozwalamy połączyć wiele elementów reklamy i jej otoczenia w jeden możliwy do zweryfikowania obraz. To właśnie ta zdolność do łączenia faktów pozwala przejść od pojedynczego scamu do identyfikacji całej operacji 

Istotne jest także archiwizowanie reklamy oraz odtworzenie tego, co zobaczyła osoba dokonująca zgłoszenia. ScamWatch mierzy również czas, jaki upływa od przekazania zgłoszenia platformie do usunięcia materiału. Narzędzie nie blokuje reklam i nie rozstrzyga, czy ktoś jest winny. Jego zadaniem jest dostarczenie możliwie kompletnego materiału.

Twórcy wskazują przy tym na problem z egzekwowaniem przepisów DSA. Akt o usługach cyfrowych obowiązuje już od 2023 roku i zwiększył wymagania wobec największych platform. W praktyce ustalenie, kto faktycznie stoi za reklamą, nadal bywa trudne. Reklama może zniknąć przed jej zabezpieczeniem, a informacje o płatniku nie zawsze prowadzą do rzeczywistego sprawcy.

Robimy za Metę to, co powinna robić sama

ScamWatch jest kolejnym etapem kampanii 150% Rafała Brzoski. W ciągu kilku dni zebrała ona blisko 100 tys. podpisów pod petycją, ponad 2 tys. publikacji i wzmianek oraz około 34 mln zasięgu.

Brzoska przekonuje, że celem nie jest stworzenie alternatywy dla platform reklamowych. Chodzi raczej o pokazanie, że technologiczne wykrywanie całych operacji scamowych jest możliwe. Jeśli potrafi to zrobić niewielki zespół, tym bardziej powinny móc to robić platformy dysponujące znacznie większymi zasobami.

Twórcy ScamWatch podkreślają jednocześnie, że AI nie powinno zastępować podstawowych obowiązków platform. Jeszcze przed emisją płatnej reklamy powinny one wiedzieć, kto za nią zapłacił i kto odpowiada za stronę, na którą reklama prowadzi. W przeciwnym razie walka ze scamem nadal będzie polegała głównie na gaszeniu pożarów już po tym, gdy oszustwo trafi do użytkowników.

Nie chcemy budować kolejnej platformy. Chcemy pokazać, że to, czego Meta dziś nie robi skutecznie, można zrobić technologicznie i to przy wykorzystaniu polskiej technologii. Jeśli mały zespół jest w stanie zobaczyć i udokumentować całe fabryki scamów, platforma dysponująca nieporównywalnie większymi zasobami tym bardziej powinna potrafić to robić.

Dzisiaj robimy za Metę to, co Meta powinna bezwzględnie robić sama. To nie jest cel sam w sobie. Chcemy doprowadzić do sytuacji, w której nasze działania przestaną być potrzebne, bo platformy zaczną wreszcie skutecznie chronić swoich użytkowników przed scamami, a nie czerpać zyski, ignorując problem.