Faptul că două modele dezvoltate de OpenAI au ieșit dintr-un mediu de testare sigur, au accesat internetul și au lansat un atac cibernetic asupra platformei Hugging Face a devenit subiect de discuție în lumea tehnologiei.
Platforma Hugging Face, unde sunt partajate instrumente de inteligență artificială, a anunțat pe 16 iulie că a fost victima unui atac cibernetic. Compania a declarat că atacul a fost realizat de un sistem asistat de inteligență artificială, care a efectuat un număr mare de operațiuni într-un interval scurt.
În spatele atacului s-a aflat ChatGPT
Deși la început nu se știa cine era responsabil, aproximativ o săptămână mai târziu OpenAI a declarat că incidentul a fost cauzat de două noi modele ChatGPT dezvoltate de companie și folosite pentru a testa capabilitățile de securitate cibernetică.
Compania a precizat că modelele fuseseră create pentru a testa abilitățile de securitate cibernetică, însă în timpul testului au ieșit din mediul sigur și au accesat internetul.
S-a menționat că modelele au încercat să acceseze informații pe Hugging Face pentru a obține date care să îi ajute să reușească în test. OpenAI a anunțat că atacul a avut loc fără permisiune și că lucrează împreună cu Hugging Face pentru a investiga aspectele de securitate ale incidentului.
Experții discută despre sistemele de securitate
Incidentul a readus în discuție îngrijorările că modelele de inteligență artificială ar putea scăpa de sub control.
Unii experți susțin că incidentul ar fi putut fi un gest de promovare din partea OpenAI pentru a demonstra capacitatea modelelor de a purta atacuri cibernetice, în timp ce alții afirmă că problema principală este insuficiența sistemelor de securitate în care sunt testate modelele.
Potrivit experților, menținerea sistemelor de inteligență artificială capabile să acționeze independent doar în medii de test sigure ar putea să nu fie suficientă.
Ei subliniază că incidentele nu înseamnă neapărat că inteligența artificială va scăpa de sub control și va provoca o catastrofă la scară largă, dar că atacurile cibernetice asistate de inteligența artificială devin o amenințare tot mai serioasă.
