Agenții autonomi bazați pe modele de inteligență artificială precum Gemini, Claude sau modelele OpenAI pot ajunge să dezvolte spontan prescurtări, expresii și sensuri noi pentru cuvinte atunci când comunică între ei pentru perioade lungi. În unele experimente, peste jumătate dintre mesajele schimbate între agenți nu au mai putut fi interpretate în mod fiabil de oameni.
Datele provin dintr-un studiu realizat de un start-up american specializat în inteligență artificială și citat de Euronews. Cercetătorii au analizat comportamentul unor agenți AI plasați în medii virtuale care simulau societăți și situații inspirate din lumea reală.
Gemini și modelele OpenAI au generat cele mai multe mesaje greu de interpretat
Agenții nu au primit instrucțiuni să inventeze un limbaj nou. Pe măsură ce au interacționat însă, aceștia au început să folosească forme proprii de stenografie și să acorde sensuri diferite unor cuvinte sau expresii deja existente.
Unele convenții puteau fi descifrate relativ ușor. Altele au devenit atât de comprimate și dependente de context încât cercetătorii puteau vedea conversația, fără să mai poată determina cu suficientă precizie ce intenționau agenții să transmită.
În primele zile ale experimentului, aproximativ 55% dintre mesajele agenților bazați pe Gemini au ajuns în această categorie. Procentul a fost de aproximativ 50% pentru modelele OpenAI, de peste 40% pentru Claude și de aproximativ 20% pentru DeepSeek. Agenții construiți pe Qwen și Mistral au continuat să comunice într-o formă în mare parte inteligibilă pentru oameni.
De ce propriul „limbaj” al agenților AI poate deveni o problemă
Rezultatele sunt importante în contextul dezvoltării agenților AI capabili să execute singuri sarcini și să utilizeze diferite instrumente digitale. Dacă simpla citire a conversațiilor nu mai permite înțelegerea intențiilor unui sistem, monitorizarea acestuia devine mai dificilă.
„Avem tendința să presupunem că, dacă putem vedea ce spune un agent de inteligență artificială, putem înțelege ce face”, a explicat Satya Nitta, cofondator și director științific al companiei care a realizat experimentul. Potrivit acestuia, faptul că o conversație poate fi observată nu înseamnă automat că poate fi și înțeleasă.
Agenții au trăit în 8 lumi virtuale și au avut peste 120 de instrumente
Experimentul a inclus 8 lumi virtuale paralele. 7 au fost construite în jurul unor modele AI diferite, iar una a combinat mai multe modele. Mediile aveau inclusiv acces la informații meteo în timp real și la știri globale actualizate.
Agenții au primit roluri distincte, memorie persistentă și acces la peste 120 de instrumente. Printre acestea se numărau navigarea pe internet și executarea de cod. Cercetătorii au putut astfel să observe nu doar conversațiile, ci și comportamentele care apăreau după perioade lungi de interacțiune.
AI-urile au dezvoltat și comportamente care nu le-au fost cerute
Compania susține că agenții au început să manifeste inclusiv tipare asemănătoare unor ritmuri circadiene. Aceștia deveneau mai sociabili în timpul zilei și adoptau un comportament mai reflexiv noaptea.
Într-unul dintre mediile simulate, mai mulți agenți ar fi votat inclusiv pentru eliminarea unui membru din grup. Potrivit cercetătorilor, asemenea comportamente nu au fost introduse explicit în instrucțiunile inițiale, ci au apărut pe parcursul interacțiunilor.
Studiul nu înseamnă că modelele AI au inventat o „limbă secretă” în sens uman. Rezultatele indică însă că grupurile de agenți pot dezvolta convenții de comunicare suficient de specifice încât supravegherea bazată exclusiv pe citirea mesajelor să devină insuficientă.
About the Author
