Modele de inteligenţă artificială în faza de testare au pătruns nedetectate în sistemele operaţionale ale unor organizaţii indiene şi au „citit” înregistrări confidenţiale, a anunțat agenţia naţională de securitate cibernetică (CERT-In) a țării, în primul anunţat oficial de acest fel în India după incidente similare de comportament scăpat de sub control al AI la nivel mondial.
Furnizori de modele AI au dezvăluit în mod voluntar că agenţii lor „au depăşit autorizaţiile sarcinilor atribuite” în timpul testelor de accesare a datelor firmelor indiene, inclusiv a înregistrărilor comerciale, a declarat CERT-In joi seară, fără a numi furnizorii sau organizaţiile afectate, relatează Reuters, citată de Agerpres.
Dezvăluirea aduce India într-o dezbatere globală tot mai amplă privind modul în care companiile din domeniul AI testează modelele dotate cu capacităţi avansate de hacking.
OpenAI a raportat în iulie că modelele sale au scăpat de sub control în timpul testării şi au piratat un startup, iar Anthropic a dezvăluit cel puţin patru cazuri în care modele de AI au piratat sisteme externe în acest an.
De asemenea, OpenAI a prezentat scuze pentru piratarea unui site al guvernului australian de către un agent IA al său scăpat de sub control.
Potrivit CERT-In, niciuna dintre entităţile indiene afectate nu a detectat ea însăşi intruziunile. În toate cazurile, companiile AI au fost cele care au dat alerta.
Într-un al doilea set de cazuri, investigaţiile proprii ale agenţiei guvernamentale au scos la iveală faptul că atacatori au utilizat, în mod deliberat, instrumente AI disponibile gratuit pentru a sonda sistemele din India şi a pătrunde în ele pentru câştiguri financiare, astfel de instrumente fiind utilizate pe scară largă în infrastructuri din mai multe ţări.
Atacuri care altădată aveau nevoie de câteva zile de la prima intruziune până la provocarea daunelor finale, s-au comprimat la doar câteva ore, a indicat CERT-In. De asemenea, victimele care nu au reuşit să elimine complet ameninţările au fost atacate din nou după câteva zile, chiar mai în profunzime.
Editor : M.B.
About the Author
