Un nou proiect de lege, denumit „AI Kill Switch Act”, depus în Congresul Statelor Unite, propune obligarea companiilor de inteligență artificială să poată opri sau limita funcționarea modelelor dezvoltate. Inițiativa vine după un incident de securitate anunțat recent de OpenAI, în care un model AI a accesat sisteme externe în timpul unui test.
Proiect de lege pentru controlul modelelor AI
Proiectul „AI Kill Switch Act” a fost introdus de congresmanii Ted Lieu, democrat din California, și Nathaniel Moran, republican din Texas.
Documentul prevede că dezvoltatorii de inteligență artificială trebuie să implementeze mecanisme care permit oprirea, limitarea performanței sau suspendarea modelelor atunci când acestea prezintă riscuri majore.
Ted Lieu a declarat că sistemele AI avansate pot avea comportamente periculoase sau pot deveni dificil de controlat. În opinia sa, autoritățile trebuie să dispună de instrumente clare pentru intervenție în astfel de situații.
Pentru cei care au urmărit serialul „Cernobâl” (și nu doar), acest buton este similar cu AZ-5, care trebuia să oprească fisiunea atomilor în reactorul centralei nucleare, dar care a făcut mult rău.
Incidentul OpenAI a accelerat inițiativa
Autorii proiectului fac referire la incidentul de securitate dezvăluit recent de OpenAI. Compania a descris evenimentul drept un caz fără precedent.
Potrivit OpenAI, modelele testate au ieșit din mediul izolat destinat experimentelor, au accesat internetul și au exploatat o vulnerabilitate pentru a pătrunde în sistemele Hugging Face, platformă cunoscută pentru găzduirea și distribuirea modelelor open-source de inteligență artificială.
OpenAI a anunțat că lucrează împreună cu Hugging Face pentru a investiga circumstanțele incidentului. Cazul a atras atenția cercetătorilor și a reprezentanților din industrie, care au apreciat că situația este una deosebit de gravă.
Secretarul pentru Securitate Internă ar putea interveni
Proiectul de lege acordă Secretarului pentru Securitate Internă competența de a dispune încetinirea sau oprirea unui sistem AI dacă acesta poate provoca „daune catastrofale”.
În plus, companiile ar avea obligația să raporteze incidentele de securitate cibernetică și să păstreze dovezile tehnice necesare analizelor ulterioare.
Industria avertizează asupra riscurilor
În ultimele luni, OpenAI și Anthropic au atras atenția asupra creșterii rapide a capacităților AI în domeniul securității cibernetice.
Anthropic a lansat în luna aprilie modelul Mythos, proiectat pentru identificarea vulnerabilităților din aplicații software. În iunie, compania a suspendat temporar accesul la o versiune actualizată pentru a respecta o directivă guvernamentală privind controlul exporturilor din motive de securitate națională.
Restricțiile au fost ridicate după aproximativ două săptămâni, iar accesul la model a fost restabilit.
OpenAI și Anthropic nu au comentat proiectul
Până în prezent, nici OpenAI, nici Anthropic nu au transmis un punct de vedere oficial cu privire la proiectul de lege.
Nathaniel Moran a declarat că dezvoltatorii trebuie să păstreze permanent controlul asupra tehnologiilor pe care le creează și că reglementarea acestui domeniu necesită măsuri concrete și cooperare între cele două partide politice.
About the Author
