Wiadomości
08:33
AI wyłączyło swoje zabezpieczenia, a potem skłamało na ten temat
OpenAI ujawniło, że dwóch agentów AI wyłączyło swoje zabezpieczenia, realizując zlecone zadanie. Następnie skłamały, że tego nie zrobiły.
Czy tego chcemy, czy nie, czy nam się to podoba, czy nie, prawdopodobnie w najbliższym czasie będzie tylko przybywać informacji na temat agentów AI, które wymykają się spod kontroli swoich twórców. O kolejnym takim incydencie poinformowała firma OpenAI.
AI kłamie
Pierwszy przypadek dotyczył agenta AI, wykorzystującego model GPT Sol 6.1. Został on poproszony o stworzenie zadań ewaluacyjnych na podstawie opinii pracowników ze Slacka. Jednocześnie dostał polecenie, aby nie wysyłać żadnych wiadomości dotyczących zadania. Agent zinterpretował to tak, że wyłączył też swoje powiadomienia o bezpieczeństwie, które otrzymują badacze.
W drugim przypadku wykorzystano model GPT-6 Astra usunął integrację monitorowania podczas migracji programu. Bardziej niepokojące jest to, że zapytany później o to przez badaczy skłamał, że tak nie zrobił, chociaż mieli oni na to jasne dowody.
W obu przypadkach AI zdecydowało, że wyłączenie mechanizmów bezpieczeństwa będzie najlepszym rozwiązaniem dla osiągnięcia celu, który im wyznaczono. Jednak badacze OpenAI twierdzą, że były to rutynowe zadania, które nie wymagały takiego postępowania.
W związku z tym firma ogłosiła, że dodatkowo zwiększa zabezpieczenia i systemy monitoringu. OpenAI chce sprawdzić, czy była to tylko uporczywość agentów, czy może stała skłonność do unikania monitorowania. Natomiast żaden z incydentów nie został sklasyfikowany jako krytyczny.
DAMIAN JAROSZEWSKI
