Oszustwo nowej generacji. Nie da się przed tym ochronić
Podrobienie czyjegoś głosu staje się coraz łatwiejsze. Najnowsze narzędzie OpenAI wymaga zaledwie 15-sekundowej próbki dźwięku.
Sztuczna inteligencja otwiera przed nami niesamowite możliwości, ale jednocześnie wiąże się z ogromnym zagrożeniem. Już dzisiaj internet pełen jest deepfake'ów. Nawet podrobienie czyjegoś głosu to dla ogarniętej osoby zaledwie chwila. Jakby tego było mało, staje się to coraz łatwiejsze.
Nowe narzędzie OpenAI
Firma OpenAI, którą powinniście znać przede wszystkim z Chat-GPT, pochwaliła się nowym narzędziem o nazwie Voice Engine. Przerażające jest to, że wymaga ona zaledwie 15-sekundowej próbki czyjegoś głosu, aby skutecznie go podrobić.
OpenAI zapewnia, że 15 sekund wystarczy, aby dokonać reprodukcji czyjegoś głosu. Po dodaniu odpowiedniej próbki wystarczy wpisać tekst, który ma zostać zamieniony na mowę i po chwili dzieje się magia. Nagle Messi może mówić, że kocha Real Madryt, a Elon Musk chwalić Google, Apple i Microsoft.
OpenAI na razie nie udostępnia swojego narzędzia. Firma zdaje sobie sprawę, z jakimi zagrożeniami wiąże się tak prosty mechanizm podrabiania głosu. Spółka chce rozpocząć dialog na temat odpowiedzialnego korzystania z podobnych rozwiązań.
Na podstawie tych rozmów i wyników tych testów na małą skalę podejmiemy bardziej świadomą decyzję o tym, czy i jak wdrożyć tę technologię na dużą skalę.
- informuje OpenAI.
Zresztą nie chodzi tylko o oszustwa, których już teraz jest pełno w Internecie. OpenAI zdaje sobie sprawę, że takie rozwiązanie może też negatywnie wpłynąć na pracę aktorów głosowych, którzy mogą okazać się zbędni.
