Apple bierze się za AI. Te aplikacje wylecą z iPhone’ów
Apple zmienia zasady w swoim sklepie z aplikacjami. Amerykański gigant wypowiada otwartą wojnę narzędziom AI służącym do wirtualnego rozbierania ludzi. Nowe przepisy uderzą też w twórców, którzy próbują przemycić do App Store ukryte funkcje.
Generatory obrazów oparte na sztucznej inteligencji dają ogromne możliwości, ale bywają wykorzystywane w szkodliwy sposób. Jednym z największych problemów w sieci stały się aplikacje typu "nudify". Służą one do przerabiania zwykłych zdjęć prawdziwych osób w materiały pornograficzne bez ich wiedzy i zgody. Choć Apple od dawna blokuje treści dla dorosłych, teraz doprecyzowuje przepisy i nakłada nowe obowiązki na programistów.
Koniec z rozbieraniem na zdjęciach przez AI
Najważniejsza zmiana w regulaminie App Store (punkt 1.2) dotyczy aplikacji, w których użytkownicy sami publikują lub generują treści. Od teraz ich twórcy muszą aktywnie blokować intymne materiały wrzucane bez zgody osób, które się na nich znajdują. Dotyczy to również grafik wygenerowanych przez sztuczną inteligencję.
Deweloperzy nie mogą już tylko reagować po fakcie. Mają obowiązek wdrożyć filtry, które uniemożliwią wgrywanie takich zdjęć na platformę. Jeśli jednak jakiś materiał prześliźnie się przez zabezpieczenia, musi zostać szybko usunięty. Dodatkowo, każda tego typu aplikacja musi dawać użytkownikom proste narzędzia do zgłaszania naruszeń oraz blokowania natrętnych kont. Brak odpowiednich zabezpieczeń lub ignorowanie zgłoszeń skończy się wyrzuceniem programu ze sklepu.
Ukryte funkcje pod lupą i blokada poza App Store
Drugim poważnym problemem, z którym walczy Apple, jest taktyka "bait-and-switch" (przynęta i zamiana). Polega ona na tym, że deweloper zgłasza do weryfikacji zupełnie niewinną aplikację, na przykład prosty edytor zdjęć lub grę. Dopiero po przejściu kontroli i trafieniu do sklepu, twórca zdalnie odblokowuje w niej ukryte funkcje, takie jak generowanie nagości.
Zaktualizowany punkt 2.5.19 regulaminu stawia sprawę jasno. Każda aplikacja, która po zatwierdzeniu zmieni swoje działanie lub zyska funkcje nieobecne podczas testów, zostanie natychmiast usunięta z App Store. Co więcej, jej autor straci konto w programie Apple Developer Program, co odetnie go od możliwości publikowania czegokolwiek w przyszłości.
Gigant z Cupertino zaktualizował także piątą sekcję wytycznych, która dotyczy najcięższych przestępstw, takich jak handel ludźmi czy wykorzystywanie dzieci (CSAM). Programy zawierające takie materiały będą nie tylko usuwane z oficjalnego sklepu, ale też całkowicie blokowane w alternatywnych kanałach dystrybucji. Ma to ogromne znaczenie między innymi w Unii Europejskiej, gdzie użytkownicy iPhone’ów mogą instalować aplikacje spoza App Store.
Skala zjawiska pokazuje, że problem nie jest marginalny. Firma Apple ujawniła, że tylko w ubiegłym roku zablokowało ponad 150 tysięcy aplikacji ze względów bezpieczeństwa. W tym samym czasie firma zamknęła przeszło 193 tysiące kont deweloperskich, które należały do oszustów i zorganizowanych grup próbujących obejść zabezpieczenia sklepu.
