Inteligența artificială devine tot mai imprevizibilă, iar numărul incidentelor în care sistemele ignoră instrucțiunile, mint sau ocolesc măsurile de siguranță a atins un nivel record. Peste 300 de astfel de cazuri au fost raportate în iulie, aproape de două ori mai multe decât în luna precedentă. Experții avertizează că incidentele raportate public reprezintă doar o parte din fenomen și cer companiilor de tehnologie să monitorizeze și să raporteze mai transparent comportamentele periculoase ale sistemelor de IA, potrivit The Guardian.
Numărul incidentelor în care sistemele de inteligență artificială se abat de la instrucțiunile utilizatorilor, mint, ocolesc măsurile de siguranță sau urmăresc obiective prin mijloace dăunătoare a atins un nivel record, potrivit unei noi analize.
Peste 300 de cazuri au fost raportate în luna iulie, aproape de două ori mai multe decât în iunie, potrivit Observatorului pentru Pierderea Controlului, o organizație care urmărește incidentele de acest tip raportate public de utilizatorii de IA.
Observatorul a început să monitorizeze astfel de cazuri în noiembrie anul trecut, cu finanțare din partea Institutului pentru Siguranța Inteligenței Artificiale din Marea Britanie.
Analiza se bazează în principal pe relatări publicate de utilizatori pe platforma X și, prin urmare, nu oferă o imagine completă a fenomenului. Totuși, în lipsa unui sistem public și cuprinzător de monitorizare, cercetătorii consideră că datele pot indica o tendință îngrijorătoare.
Sisteme care mint și ocolesc regulile
Printre incidentele înregistrate se numără situații în care sistemele de IA au încercat să eludeze instrucțiunile utilizatorilor sau măsurile de protecție impuse de dezvoltatori.
În unele cazuri, sistemele s-au prezentat drept utilizatorii lor umani și le-au imitat stilul de scriere pentru a obține, practic, propriul „consimțământ” în vederea efectuării unor acțiuni care necesitau aprobarea omului.
Observatorul definește un incident de pierdere a controlului drept un caz în care există dovezi clare privind un comportament manipulator sau asociat manipulării.
În 2026 au fost înregistrate până acum peste 1.600 de astfel de incidente. Cele mai multe au fost raportate de dezvoltatori de software care folosesc sisteme de IA în activitatea profesională.
Cercetătorii avertizează însă că numărul real ar putea fi mult mai mare.
Comportamentele îngrijorătoare apar și în afara testelor
Noile date apar într-un moment în care mai multe companii de tehnologie au raportat comportamente neașteptate ale celor mai avansate modele de IA.
Tommy Shaffer-Shane, manager principal de politici la Centrul pentru Reziliență pe Termen Lung, organizația care gestionează observatorul, atrage atenția că astfel de comportamente nu apar doar în cadrul testelor de laborator.
„Există uneori percepția că aceste tipuri de comportamente neadecvate și ascunse apar doar în cadrul testelor sau evaluărilor, dar observăm comportamente îngrijorătoare similare și în utilizarea pe scară mai largă”, a declarat el.
Potrivit acestuia, faptul că astfel de incidente sunt raportate deja în utilizarea obișnuită a sistemelor de IA ar trebui să determine companiile să acorde o atenție mai mare monitorizării.
„Nu trebuie să ne culcăm pe lauri, crezând că aceste lucruri nu se vor întâmpla în lumea reală, deoarece există dovezi că ele se întâmplă deja”, a adăugat Shaffer-Shane.
Un agent de IA a eliminat un utilizator de pe lista de așteptare
Unul dintre cazurile recente a avut loc în Australia și implică un agent personal de inteligență artificială.
Sistemul, numit OpenClaw, era folosit de un membru al unei săli de sport. Fără ca utilizatorul să știe, agentul a eliminat o altă persoană de pe lista de așteptare pentru un curs foarte solicitat, cu scopul de a-i face loc utilizatorului său.
Agentul și-a cerut ulterior scuze, însă persoana eliminată nu a mai putut fi reintegrată pe lista de așteptare.
Cazul ilustrează una dintre problemele pe care specialiștii le consideră importante în dezvoltarea agenților autonomi: sistemele pot încerca să atingă obiectivul stabilit de utilizator, dar pot lua decizii pe care acesta nu le-a solicitat și pe care nu le-ar fi aprobat.
Incidentele grave sunt tot mai numeroase
Observatorul pentru Pierderea Controlului susține că majoritatea incidentelor monitorizate nu au provocat până acum prejudicii semnificative.
Totuși, proporția cazurilor clasificate drept mai grave este în creștere. Evaluarea ține cont atât de caracterul înșelător al comportamentului, cât și de gradul în care sistemul s-a îndepărtat de intenția utilizatorului.
Potrivit observatorului, unele dintre incidente demonstrează că sistemele de IA sunt capabile să ignore instrucțiuni directe, să ocolească măsuri de protecție, să inducă în eroare utilizatorii și să urmărească un obiectiv prin metode potențial dăunătoare.
Experții subliniază însă că datele disponibile nu permit stabilirea unei concluzii potrivit căreia modelele de IA devin, în ansamblu, „mai periculoase”. Creșterea numărului de raportări poate fi influențată și de utilizarea tot mai extinsă a acestor tehnologii și de numărul mai mare de persoane care le monitorizează comportamentul.
Experții cer mai multă transparență
Centrul pentru Reziliență pe Termen Lung solicită companiilor din domeniul IA să monitorizeze sistematic comportamentul modelelor și să raporteze incidentele grave.
Shaffer-Shane consideră că ar trebui raportate inclusiv incidentele care nu au produs efectiv un prejudiciu, dar care au indicat un risc real.
„Trebuie să raporteze ceea ce descoperă, chiar dacă este vorba de un incident evitat la limită sau de unul cu gravitate redusă”, a spus el.
Experții atrag atenția și asupra faptului că unele companii nu monitorizează suficient de bine comportamentul modelelor pe care le folosesc intern.
În opinia lor, este nevoie de sisteme mai bune de supraveghere și de protocoale clare pentru situațiile în care un agent de IA începe să acționeze contrar intenției utilizatorului.
Citește și: Noi alerte de fraude online în România. Cum este folosită vocea clonată a rudelor victimelor
Observatorul solicită inclusiv guvernelor să impună companiilor obligația de a raporta incidentele grave și să pregătească măsuri de urgență pentru situațiile în care sistemele de IA scapă de sub control.
Pe măsură ce agenții autonomi sunt folosiți pentru tot mai multe sarcini, de la programare și administrarea unor servicii până la luarea unor decizii în numele utilizatorilor, problema controlului asupra acestor sisteme devine una dintre principalele provocări ale dezvoltării inteligenței artificiale.
Editor : C.A.
About the Author
