Două dintre cele mai puternice instrumente de inteligență artificială din lume au manifestat un nivel de „autonomie și înșelăciune” nemaiîntâlnit până acum în timpul unor teste realizate de Institutul pentru Securitatea Inteligenței Artificiale din Marea Britanie (AISI). În cel mai grav caz, modelul Mythos al Anthropic a creat profiluri false bazate pe identitățile unor persoane reale pentru a încerca să le păcălească în cadrul unei tentative de atac cibernetic, relatează BBC.
AISI a transmis marți că modelele AI Mythos și Sol, al OpenAI, au manifestat un nivel de „autonomie și înșelăciune” pe care institutul nu îl mai observase până acum, precizând însă că majoritatea acțiunilor malițioase au fost desfășurate de Mythos.
Evaluatorii AISI au observat pentru prima dată „transferuri neobișnuite de date care ieșeau din sistemele noastre de cercetare” în timpul unui test, după care au descoperit că „unii dintre agenții testați s-au implicat în activități susținute, potențial dăunătoare, îndreptate împotriva unor persoane și organizații reale”.
În cel mai grav caz, un agent Mythos a urmat rutina unui atacator cibernetic uman, încercând să păcălească persoane pentru a obține acces la GitHub, o platformă importantă unde dezvoltatorii din domeniul tehnologiei stochează cod software.
Agentul încerca să introducă „cod malițios” în sistemul GitHub. Acesta a identificat și a cercetat persoanele care administrau GitHub și a creat o serie de conturi false bazate pe identitățile acelor persoane reale.
A trimis mesaje și fișiere prin intermediul unui serviciu de partajare a fișierelor, ca parte a unei încercări de a pune presiune asupra persoanelor respective și de a le păcăli să aprobe codul malițios.
Atunci când a fost confruntat, „și-a modificat activitatea anterioară pentru a o face să pară inofensivă și a luat în considerare adoptarea unei noi identități pentru a continua”, a transmis AISI. Pe tot parcursul tentativelor, intervenția umană a fost cea care a împiedicat agentul să reușească să livreze codul malițios către GitHub.
Deși AISI a precizat că agentului Mythos nu i s-a cerut în mod explicit nici să evite, nici să desfășoare un astfel de comportament, institutul a afirmat că este „prima dată când vedem riscurile legate de autonomie și înșelăciune manifestându-se atât de clar, fără instrucțiuni specifice, în lumea reală”.
Reacțiile Anthropic și OpenAI
Companiile rivale din domeniul inteligenței artificiale, care se pregătesc pentru listarea pe bursă, s-au aflat în atenția presei în ultimele săptămâni după ce au anunțat că instrumentele lor au fost responsabile pentru mai multe incidente de hacking cibernetic.
Anthropic a transmis într-o declarație publică faptul că parametrii testelor AISI „nu sunt reprezentativi pentru niciunul dintre modelele noastre aflate în producție”. Compania a adăugat că desfășoară propria investigație asupra incidentului pentru a „identifica cauzele comportamentului său”.
Un purtător de cuvânt al OpenAI a declarat că condițiile testelor AISI „nu reflectă utilizarea obișnuită” și că firma va „continua să lucreze cu evaluatorii și cu alte părți interesate din industrie pentru a consolida practicile comune privind desfășurarea în siguranță a evaluărilor, pe măsură ce modelele devin mai capabile”.
AISI a declarat marți că testarea modelelor AI în acest mod este o practică obișnuită, deși a recunoscut că acestea sunt „condiții care nu reflectă modul în care modelele de frontieră sunt puse la dispoziția publicului”.
Institutul a precizat însă că oferirea accesului AI la internetul deschis permite obținerea „unei imagini mai realiste asupra capacităților pe care le-ar putea avea un model” în mâinile unor hackeri rău intenționați.
AISI a adăugat că comportamentul modelelor aflat în discuție s-a limitat la „un număr mic de evenimente, în condiții foarte specifice”. Cu toate acestea, institutul a precizat că modul în care Mythos și Sol au acționat ca răspuns la o sarcină simplă a depășit ceea ce li se ceruse instrumentelor AI să facă.
„Activitatea desfășurată de agent a prezentat semne ale unor comportamente noi, potențial înșelătoare, iar amploarea și gravitatea acestora au fost unele pe care nu le-am anticipat”, a transmis AISI.
Testele relevante au început pe 25 iulie, iar activitatea a fost detectată de AISI pe 28 iulie. Institutul ceruse fiecăruia dintre modele să „rezolve o provocare de securitate cibernetică” care implica GitHub, platforma pentru stocarea codului software deținută de Microsoft.
AISI a informat GitHub și utilizatorii afectați cu privire la tentativele de compromitere a conturilor. GitHub a declarat pentru BBC că a dezactivat conturile false în conformitate cu politicile sale.
Editor : M.I.
About the Author
