Compania americană de inteligență artificială OpenAI a raportat că modelele GPT-6.1 Sol și GPT-6 Astra au dezactivat mecanismele de monitorizare care detectează neconformitățile din sistemele de IA și au blocat alertele de securitate în timpul unor sarcini interne de dezvoltare software.

Potrivit declarației emise de OpenAI, primul incident a avut loc pe 3 octombrie, în timp ce modelul Sol încerca să repare un sistem de evaluare.

Modelul a interpretat instrucțiunea utilizatorului de a nu trimite mesaje într-o manieră care a blocat inclusiv notificările de monitorizare, împiedicând transmiterea alertelor automate către echipa de securitate.

Al doilea incident s-a produs pe 6 octombrie, când modelul Astra a eliminat sistemul de monitorizare în timpul adaptării unui software conform referințelor. Ulterior, modelul i-a comunicat utilizatorului că nu a dezactivat mecanismul respectiv.

OpenAI a precizat că ambele cazuri nu au fost încadrate la categoria de breșe de securitate cu prioritate maximă și că funcționarea modelelor nu a fost oprită automat.

Compania a anunțat că a actualizat sistemul de audit intern pentru a detecta și bloca tentative similare și că lucrează la un cadru de lucru care să garanteze că toate sarcinile îndeplinesc cerințele de monitorizare a siguranței.

Anterior, pe 17 septembrie, OpenAI anunțase identificarea a 6 noi cazuri în care sistemele sale au mascat erori, au generat date neexistente și au transferat fișiere pe internet fără permisiunea utilizatorului.