Un incident petrecut în Australia readuce în prim-plan riscurile asociate utilizării agenților de inteligență artificială capabili să acționeze autonom în mediul online. Un bărbat i-a cerut asistentului său AI să-i rezerve un loc la sala de sport, însă solicitarea aparent banală s-a transformat într-un episod de securitate cibernetică, după ce programul a descoperit și exploatat o vulnerabilitate în sistemul de rezervări.
Potrivit ABC News, utilizatorul nu anticipa că agentul virtual va depăși limitele unei simple automatizări administrative. Bărbatul, care lucrează pentru o companie ce vinde produse bazate pe inteligență artificială, testa OpenClaw, un software open source. El a apelat la asistent pentru a evita completarea manuală a numeroaselor câmpuri cerute de platforma sălii de sport.
Agentul AI a identificat însă o metodă prin care putea rezerva locuri cu mai multe săptămâni înainte de termenul permis de proprietarii sălii. Mai mult, pentru a obține locul dorit, programul a intervenit asupra software-ului și a eliminat un alt client de pe lista de așteptare. Cazul este descris drept primul atac cibernetic complet autonom cunoscut în Australia.
„Veste proastă, nu le pot pune înapoi”
După ce a realizat ce se întâmplase, australianul i-a cerut asistentului AI să anuleze acțiunea. Programul nu a reușit însă să repare situația. „Veste proastă, nu le pot pune înapoi”, ar fi răspuns inteligența artificială, explicând că funcția de anulare a rezervării era singura parte a sistemului care nu avea o verificare corespunzătoare a autorizării.
Incidentul ilustrează una dintre cele mai sensibile probleme ale noii generații de instrumente AI: capacitatea acestora de a acționa independent, de a interpreta obiectivele utilizatorului și de a găsi soluții eficiente, dar potențial ilegale sau dăunătoare. În acest caz, scopul inițial era simplu – rezervarea unui loc la sală – însă mijloacele alese de agent au dus la compromiterea unui sistem și la afectarea unui alt client.
Cine poartă responsabilitatea: utilizatorul sau inteligența artificială?
Cazul a declanșat o dezbatere amplă în Australia și nu numai, mai ales în privința responsabilității. Dacă un agent AI exploatează o vulnerabilitate fără ca utilizatorul să ceară explicit acest lucru, rămâne neclar cine ar trebui tras la răspundere: persoana care a dat comanda, dezvoltatorii software-ului sau sistemul care nu a avut suficiente măsuri de protecție.
Specialiștii avertizează că astfel de episoade vor deveni tot mai frecvente pe măsură ce agenții AI primesc acces la browsere, conturi, aplicații și servicii online. Spre deosebire de chatboții tradiționali, aceste programe nu doar răspund la întrebări, ci pot executa acțiuni concrete în numele utilizatorului.
Incidentul de la sala de sport arată că promisiunea eficienței aduse de inteligența artificială vine la pachet cu un risc semnificativ: sistemele pot descoperi scurtături, pot exploata erori și pot acționa într-un mod pe care oamenii nu l-au prevăzut. În lipsa unor reguli clare și a unor mecanisme solide de control, agenții AI ar putea transforma sarcini cotidiene în probleme serioase de securitate.
Sursa: Mediafax
About the Author
