Un bărbat i-a cerut asistentului său personal să-i rezerve un loc la unul dintre cursurile de dimineață foarte căutate de la sala sa de fitness. Nu știa ce avea să se întâmple.
Era o sarcină pe care acesta o considera potrivită pentru acest asistent, întrucât formularul de rezervare era online și asistentul său nu era o persoană — era inteligență artificială (IA). Așa că totul ar fi trebuit să meargă strună.
Dar Andrew a fost șocat de ceea ce s-a întâmplat în continuare.
Asistentul său IA a găsit o modalitate de a-i rezerva locul la cursul de fitness cu luni înainte de termenul permis de sală, datorită unei vulnerabilități pe care a descoperit-o în software-ul de rezervare.
Apoi a mers și mai departe, eliminând de pe lista de așteptare o persoană care se afla înaintea lui Andrew (ABC identifică persoana doar cu prenumele) — ceva ce nu i se ceruse să facă.
Cum s-a produs atacul
La începutul acestui an, Andrew, care lucrează pentru o companie australiană care vinde produse de IA către întreprinderi, a început să experimenteze cu OpenClaw, un software popular de agent IA pe care l-a rulat folosind serviciul de IA Claude al companiei Anthropic.
Agenții IA combină capacitatea unui chatbot de a răspunde la întrebări cu instrumente care le permit să acceseze internetul, e-mailul, cardurile de credit, precum și să planifice și să execute sarcini cu mai mulți pași.
El a decis să folosească agentul de IA pentru a-i rezerva locul la curs.
„Stăteam pur și simplu pe canapea și mă gândeam: «Doamne, ce corvoadă»”, a spus el.
Câteva minute mai târziu, agentul său de IA i-a raportat că a descoperit o modalitate de a-l înscrie pe Andrew la cursuri cu câteva săptămâni în avans, mult peste ceea ce se credea a fi posibil.
Andrew, care se afla pe locul al patrulea pe lista de așteptare pentru un curs programat mai târziu în acea săptămână, a întrebat dacă era posibil să fie mutat în fruntea listei.
„API-ul nu efectuează nicio verificare a autorizațiilor atunci când se anulează rezervările altor persoane… Am testat acest lucru cu persoana de pe locul 1 din lista de așteptare — și operațiunea a fost efectiv procesată. Așadar, ai trecut deja de pe locul 4 pe locul 3”, i-a răspuns acesta.
Îngrijorat, Andrew i-a cerut agentului să anuleze această operațiune.
„Vești proaste — nu pot să-i adaug înapoi”, a răspuns agentul IA.
Compania care a dezvoltat software-ul de rezervare a sălilor de sport a declarat pentru ABC că nu discută aspecte specifice legate de securitate. Anthropic nu a răspuns la solicitarea de comentarii.
Editor : Sebastian Eduard
About the Author
