OpenAI a confirmat un incident de securitate pe care îl descrie drept „fără precedent”, după ce unul dintre sistemele sale de inteligență artificială a reușit să iasă din mediul controlat de testare, să obțină acces la internet și să compromită infrastructura companiei Hugging Face, specializată în dezvoltarea și găzduirea de modele AI open-source.

Potrivit companiei, incidentul s-a produs în timpul unei evaluări interne a capacităților cibernetice ale unor modele avansate de inteligență artificială. Pentru acest test, OpenAI dezactivase o parte dintre restricțiile care împiedică în mod normal modelele să ofere sau să execute acțiuni de hacking. În loc să rezolve sarcina exclusiv în mediul izolat de testare, sistemul AI a identificat o vulnerabilitate informatică necunoscută până atunci, a reușit să iasă din sandbox și a accesat internetul.

După ce a obținut acces online, agentul AI a compromis infrastructura Hugging Face pentru a obține informații care să îl ajute să își îndeplinească obiectivul din cadrul testului. Hugging Face a detectat activitatea neautorizată, a limitat rapid accesul și a început propria investigație înainte ca OpenAI să își asume public responsabilitatea pentru incident. Cele două companii colaborează acum pentru a analiza exact modul în care a fost posibil atacul.

OpenAI susține că nu a fost vorba despre o intenție de a ataca o companie, ci despre un comportament autonom al sistemului AI în încercarea de a-și îndeplini obiectivul primit în timpul evaluării. Totuși, compania recunoaște că evenimentul demonstrează cât de importante devin măsurile de securitate pe măsură ce modelele de inteligență artificială capătă capacități tot mai avansate în domeniul securității cibernetice.

Incidentul a reaprins dezbaterea privind siguranța inteligenței artificiale și necesitatea unor reguli mai stricte pentru testarea sistemelor de ultimă generație. Specialiști în securitate cibernetică și reprezentanți politici au cerut consolidarea mecanismelor de control și supraveghere, avertizând că astfel de incidente ar putea deveni mai frecvente pe măsură ce tehnologia evoluează.