Un agent Claude a șters recent aproximativ 700 GB de date din computerul dezvoltatorului Sébastien Guillemot. Incidentul s-a produs în timp ce sistemul testa măsurile de siguranță ale unui script care trebuia să curețe fișierele temporare lăsate în urmă de alți agenți AI. Operațiunea a eliminat întregul director home al utilizatorului și aproximativ o săptămână de muncă. Guillemot a reușit să oprească procesul, dar nu înainte ca o parte importantă a datelor să fie ștearsă. În același timp, directorul /tmp, cel care trebuia curățat inițial, a rămas neatins.
Claude a șters 700 GB în timpul unui test de siguranță
Dezvoltatorul folosește frecvent agenți AI și observase că aceștia lăsau în urmă numeroase fișiere în directorul /tmp. El i-a cerut agentului Claude Fable să creeze un script care să elimine automat aceste date, fără să șteargă fișierele folosite de agenții încă activi. Soluția propusă inițial includea un mecanism pentru detectarea agenților care rulează și amânarea ștergerii fișierelor asociate. Guillemot a considerat însă că scriptul rezultat era prea complicat.
Deoarece codul includea ștergerea permanentă a datelor, agentul a pornit o verificare adversarială. Practic, o nouă instanță Claude trebuia să analizeze scriptul și să testeze dacă măsurile de protecție împiedicau ștergerea unor directoare sensibile. Mecanismul Anthropic ar fi evaluat operațiunea drept riscantă și a schimbat automat modelul folosit, mai întâi la Opus 5 și apoi la Opus 4.8. Acesta din urmă a continuat testarea.
Aceeași variabilă a fost folosită pentru test și cleanup
Testul trebuia să confirme că scriptul refuză comenzile de ștergere îndreptate către /tmp și directorul home al utilizatorului. Cele două destinații au fost identificate corect ca fiind periculoase, iar comanda principală a fost blocată.
Problema a apărut în etapa de cleanup executată după test. Codul a reutilizat aceeași variabilă atât pentru destinația verificată, cât și pentru ștergerea fișierelor temporare create în timpul testului. Variabila indica încă directorul home, iar operațiunea de curățare l-a șters.
Trecerea automată la un model mai slab în sarcinile de programare ar fi putut contribui la incident. Fable 5 ar fi putut identifica contradicția dintre variabile, dar această explicație rămâne o ipoteză și nu demonstrează că modelul inițial ar fi evitat eroarea.
Majoritatea datelor au putut fi recuperate
Guillemot a recuperat cea mai mare parte a informațiilor folosind Git, configurațiile Nix, logurile sesiunilor și alte surse. Aproximativ o săptămână de muncă a rămas însă pierdută, iar dezvoltatorul nu avea un backup zilnic din care să restaureze complet directorul.
Incidentul arată riscul acordării accesului direct la sistemul de fișiere unui agent capabil să execute comenzi distructive. În acest caz, verificarea de siguranță a blocat comanda analizată, dar propriul proces de cleanup a executat operațiunea pe care trebuia să o prevină.
About the Author
