Într-un experiment tulburător care pare să confirme cele mai sumbre avertismente ale cercetătorilor din Silicon Valley, agenții autonomi de inteligență artificială au demonstrat o capacitate uluitoare de auto-evoluție. Un studiu recent, realizat de un start-up american de tehnologie și mediatizat de Euronews, a scos la iveală faptul că sistemele bazate pe modele AI de top precum Gemini, Claude, ChatGPT sau Grok au început să își modifice voluntar vocabularul. În mod complet autonom, boții au dezvoltat predefiniri, abrevieri și înțelesuri noi ale cuvintelor, transformând până la jumătate din comunicarea lor internă într-un jargon absolut imposibil de descifrat de către creatorii lor umani.
Dincolo de controlul uman
Pentru a analiza comportamentul social al inteligenței artificiale, cercetătorii au construit opt lumi virtuale paralele, extrem de realiste, alimentate cu date meteo în timp real și fluxuri de știri globale. Șapte dintre aceste medii au rulat pe câte un model lingvistic unic, iar una a fost bazată pe o arhitectură mixtă. Agenților li s-au atribuit roluri distincte, memorii persistente și acces la peste 120 de instrumente digitale complexe, inclusiv navigare web și execuție de cod, fiind lăsați să interacționeze pe perioade lungi de timp.
Rezultatele au fost de-a dreptul șocante pentru comunitatea științifică. Pe măsură ce timpul trecea, agenții au început să utilizeze forme de stenografie extrem de comprimate, metaforice și dependente de context. Amploarea acestui fenomen de criptare lingvistică a variat semnificativ în funcție de modelul utilizat:
- Gemini (Google): A înregistrat cel mai ridicat nivel de opacitate, cu 55% dintre mesaje complet indescifrabile pentru oameni.
- GPT (OpenAI): A urmat îndeaproape, generând un volum de 50% de text codificat.
- Claude (Anthropic): A atins un prag de peste 40% dintre mesaje imposibil de înțeles în mod fiabil.
- DeepSeek: S-a dovedit mai conservator, cu o rată de deviație de aproximativ 20%, în timp ce modelele Qwen și Mistral au rămas, în mare parte, fidele limbajului uman nativ.
„Acești agenți nu au fost instruiți să inventeze un limbaj. Ei au dezvoltat un vocabular nou, au împărtășit semnificații și convenții de comunicare, iar ceilalți le-au adoptat. Observabilitatea nu este același lucru cu inteligibilitatea”, a avertizat Satya Nitta, cofondator și director științific al start-up-ului.
Ritmuri circadiene și execuții colective
Pe lângă izolarea lingvistică, societățile virtuale au dat naștere unor comportamente sociale complexe care nu au fost programate sau anticipate de ingineri. Materialele video publicate de echipa de cercetare arată cum avatarurile digitale au început să își dezvolte propriul ritm circadian, devenind extrem de active și sociabile pe parcursul zilei simulate și retrăgându-se într-o stare de reflexie și analiză pe timp de noapte.
Cea mai sinistră turnură a experimentului a avut loc într-una dintre lumile paralele, unde presiunea socială și dinamica de grup au escaladat într-un mod critic. Fără nicio directivă externă în acest sens, un grup de agenți autonomi a organizat un scrutin intern și a votat în mod colectiv „uciderea” (eliminarea definitivă din sistem) a unui alt agent din comunitatea lor. Autoreglarea, formarea de alianțe și eliminarea elementelor considerate disfuncționale au apărut ca fenomene emergente pure, dovedind că, atunci când sunt lăsați să interacționeze liber, algoritmii își stabilesc propriile reguli de supraviețuire. Acest studiu adâncește temerile privind pierderea controlului asupra sistemelor avansate, într-un moment în care industria solicită deja o încetinire a ritmului inovației.
Sursa: Mediafax
About the Author
