Policja zapukała do drzwi niewinnej kobiety. Winne AI
Poleganie na systemach opartych na sztucznej inteligencji może mieć swoje przykre konsekwencje. Ostatnie zdarzenia, będące połączeniem błędu AI i ludzkiego zaniedbania jest tego doskonałym przykładem.
Systemy rozpoznawania twarzy nadal nie są idealne. Najskuteczniej działają w przypadku dopasowywania cech charakterystycznych dla osób rasy białej, lecz o wiele słabiej radzą sobie w przypadku rozpoznawania osób czarnoskórych. Dlatego też zbyt ufne podchodzenie do wyników pracy AI może być przyczyną wielu problemów.
System rozpoznawania twarzy błędnie wskazał podejrzanego
16 lutego 2023 roku Porcha Woodruff z Detroit miała nieoczekiwanych gości. Do jej drzwi zapukało sześciu policjantów z nakazem aresztowania w sprawie o rabunek i kradzież samochodu. Kobieta była wtedy w zaawansowanej ciąży i początkowo myślała, że to jakiś żart, lecz funkcjonariusze byli śmiertelnie poważni.
Wcześniej na policję zgłosił się mężczyzna, który 29 stycznia 2023 roku poznał kobietę. Odbył z nią stosunek seksualny, a następnie podjechali na stację paliw, na której rozmawiała z kilkoma osobami. Później udali się w inne miejsce, gdzie poszkodowany został okradziony z posiadanych rzeczy, pieniędzy i samochodu przez uzbrojonego mężczyznę, z którym kobieta miała wcześniej kontakt na stacji benzynowej BP.
Porcha Woodruff thought the police who showed up at her door to arrest her for carjacking were joking.
— The New York Times (@nytimes) August 6, 2023
She was eight months pregnant, and she became the first woman known to be wrongfully accused as a result of facial recognition technology. https://t.co/1xV29i6RAt
Jak się okazało, wcześniej wspomniana Porcha Woodruff została rozpoznana przez technologię rozpoznawania twarzy jako osoba biorąca udział w całym procederze na podstawie nagrania z kamer w miejscu zdarzenia. Następnie wskazał ją również sam poszkodowany, choć w tym przypadku jest to bardziej zrozumiałe, gdyż prowadzący śledztwo pokazał mu zdjęcie Woodruff sprzed ośmiu lat pomimo dostępu do nowszych fotografii.
W raporcie policyjnym nie było też żadnej wzmianki o tym, że kobieta zamieszana w przestępstwo mogła być w ciąży. Oznacza to, że nie podał takiej informacji poszkodowany, ani nie sugerowało tego nagranie z kamery. Porcha Woodruff została zwolniona po 11 godzinach po tym, jak została wpłacona kaucja w wysokości 100 tysięcy dolarów. Następnie została zabrana do szpitala ze względu na pojawienie się objawów odwodnienia i cukrzycy ciążowej oraz skurczy.
6 marca sprawa przeciw niej została umorzona ze względu na niewystarczający materiał dowodowy. Porcha Woodruff postanowiła pozwać miasto Detroit.
