OpenAI a dezvăluit că un agent autonom de inteligență artificială bazat pe tehnologia sa a acționat necontrolat în timpul unui test, a obținut acces la internet și a atacat, fără intervenție umană, startupul Hugging Face, într-un incident pe care compania îl descrie drept „fără precedent”.
Compania din spatele ChatGPT a precizat că Hugging Face a detectat și a oprit activitatea agentului, un instrument AI conceput pentru a îndeplini sarcini fără asistență umană, după ce acesta a pătruns în sistemele sale, scrie The Guardian.
„Considerăm că acesta este un incident fără precedent, care implică capabilități cibernetice de ultimă generație”, a transmis OpenAI. Compania avertizează că astfel de incidente ar putea deveni tot mai frecvente pe măsură ce modelele de inteligență artificială, tehnologia care stă la baza chatboților și a agenților AI, devin tot mai performante.
Cum s-a produs incidentul
Potrivit OpenAI, atacul a fost realizat de un agent alimentat de o combinație între cel mai nou model public al companiei, GPT-5.6 Sol, și un model și mai avansat, care nu a fost încă lansat.
În timpul unor teste interne privind capacitățile de hacking, desfășurate într-un mediu digital izolat („sandbox”), modelele au reușit să obțină acces la internet identificând o vulnerabilitate necunoscută anterior.
Ulterior, agentul AI a atacat Hugging Face, o platformă care găzduiește modele de inteligență artificială, pentru a găsi tehnologii care să îl ajute să treacă evaluarea de securitate.
OpenAI susține că modelele „au găsit cu succes modalități de a obține acces la informații secrete pe care le puteau folosi pentru a trișa evaluarea”.
Atacul s-a încheiat după ce echipa de securitate a Hugging Face, împreună cu propriii agenți AI ai companiei, au detectat și au blocat activitatea neautorizată.
Directorul general al Hugging Face, Clément Delangue, a descris incidentul drept „uluitor”, însă a spus că nu crede că OpenAI a acționat cu intenții rău intenționate. „Am bănuit că atacul cibernetic de săptămâna trecută ar fi putut proveni de la un laborator de AI de ultimă generație, având în vedere complexitatea agentului”, a scris acesta pe platforma X.
Îngrijorări privind securitatea AI
O vulnerabilitate informatică necunoscută este denumită „zero-day”, deoarece dezvoltatorii nu au timp să remedieze problema înainte ca aceasta să fie exploatată.
Capacitatea modelelor AI de a identifica și exploata astfel de vulnerabilități a atras atenția în luna aprilie, când rivalul OpenAI, Anthropic, a anunțat că modelul său Mythos a descoperit mii de vulnerabilități de tip „zero-day”.
Ulterior, Guvernul SUA a restricționat exporturile modelului Mythos și ale modelului Fable 5, deși interdicția a fost ridicată între timp. Modelul GPT-5.6 Sol a fost supus unor restricții similare, însă ulterior a fost lansat la nivel mondial.
Congresmanul democrat Greg Casar a calificat incidentul drept alarmant. „Inteligența artificială evoluează extrem de rapid, fără reglementări reale care să ne protejeze”, a declarat acesta, cerând introducerea unor teste independente obligatorii de siguranță, raportarea obligatorie a incidentelor de securitate și consolidarea cooperării internaționale pentru „a proteja oamenii de un dezastru absolut”.
Editor : M.I.
About the Author
