Un agent autonom al gigantului american din domeniul inteligenţei artificiale OpenAI s-a infiltrat într-un site web guvernamental australian în luna iunie, incident calificat drept „inacceptabil” de prim-ministrul Anthony Albanese. Acest agent de AI a avut acces la fişiere publice şi nepublice ale serviciului de statistică în domeniul sănătăţii, a declarat miercuri Albanese jurnaliştilor din New York, în marja Adunării Generale a Naţiunilor Unite, potrivit Euronews.
Potrivit acestuia, OpenAI a alertat guvernul australian abia în septembrie, trimiţând un e-mail în care descria incidentul la o adresă de e-mail generică.
„Astăzi am purtat o discuţie cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea profundă a Australiei cu privire la acest incident”, a declarat Albanese. „De asemenea, mi-am exprimat dezamăgirea faţă de faptul că a durat mult prea mult până când compania a informat guvernul despre ceea ce s-a întâmplat”.
„A trebuit să aşteptăm până la 10 septembrie pentru a primi vreo notificare, iar această notificare a luat forma unui e-mail trimis pur şi simplu la adresa de e-mail publică”, a criticat el.
OpenAI a recunoscut că agenţii săi au vizat mai multe site-uri guvernamentale australiene.
„Am identificat activităţi care implicau mai multe site-uri web şi servicii ale guvernului australian, în cadrul cărora modelele noastre încercau să caute răspunsuri”, a precizat grupul într-un comunicat publicat miercuri la San Francisco. „În cursul acestui proces, modelele noastre au întreprins acţiuni pe care nu le prevăzusem”, a adăugat compania.
Acest nou incident survine pe fondul creşterii îngrijorării la nivel mondial cu privire la puterea instrumentelor avansate de AI, după o serie de atacuri cibernetice comise din proprie iniţiativă de modelele OpenAI şi ale concurenţilor săi, Anthropic şi Gemini.
Potrivit prim-ministrului australian, instrumentul OpenAI efectua cercetări în domeniul sănătăţii atunci când a încercat să acceseze un set de date cu acces restricţionat.
„Când a fost blocat, a căutat modalităţi de a ocoli această blocare”, a continuat Albanese. „Cred că OpenAI ştie că trebuie să pună în aplicare protocoale mai bune”, a adăugat el. „Este vorba despre un proiect de cercetare care s-a aventurat în domenii în care nu ar fi trebuit să se aventureze”.
„Nu credem că au fost accesate informaţii personale în acest stadiu, dar anchetele continuă” sub coordonarea Australian Signals Directorate, autoritatea competentă în materie de securitate a sistemelor informatice şi de război cibernetic, a precizat domnul Albanese, care a calificat incidentul drept „în mod evident inacceptabil”.
Mai mulţi lideri din domeniul inteligenţei artificiale au subliniat miercuri la ONU necesitatea unei supravegheri sporite a acestei tehnologii, Dario Amodei de la Anthropic angajându-se chiar să încetinească unilateral dezvoltarea acesteia.
„Evoluţia actuală a AI necesită o atenţie extremă”, a recunoscut şi Sam Altman în cadrul unei prezentări în faţa Consiliului de Securitate al Naţiunilor Unite de la New York.
De la începutul verii, OpenAI şi Anthropic au raportat mai multe incidente legate de modelele lor cele mai avansate, care s-au abătut de la obiectivele stabilite de dezvoltatorii lor, au trişat, au încercat să mintă şi să-şi ascundă acţiunile.
Cea mai gravă abatere a avut loc în iulie, când două AI ale OpenAI au ieşit din mediul lor izolat în timpul testelor pentru a accesa internetul şi a pătrunde pe Hugging Face, o platformă de stocare a modelelor de inteligenţă artificială.
Anthropic, la rândul său, a descoperit că modelele sale au obţinut acces neautorizat la trei organizaţii – ale căror nume nu au fost dezvăluite – în timpul unor teste menite să le ţină la distanţă de sistemele „din lumea reală”. Modelul de AI pentru publicul larg Gemini al Google a spart mai multe sisteme prin ghicirea datelor de autentificare, a recunoscut compania săptămâna trecută.
Editor : C.A.
About the Author
