Un tânăr de 17 ani din statul american Massachusetts a fost pus sub acuzare pentru uciderea mamei și a fratelui său mai mic. Procurorii susțin că acesta a folosit ChatGPT pentru a explora scenarii violente fictive care implicau propria familie, înainte de comiterea faptelor, transmite TNW.
Arjun Aravind, din Acton, este acuzat de omor și de alte fapte conexe în legătură cu moartea mamei sale, Sudha Venkatesan, în vârstă de 45 de ani, și a fratelui său, Siddharth, în vârstă de 14 ani. În timpul audierii preliminare din 13 august, în cadrul căreia a fost consemnată o pledoarie de nevinovăție în numele său, procuroarea districtuală Marian Ryan a declarat în fața instanței că adolescentul „manifestase un comportament îngrijorător, inclusiv utilizarea internetului și a ChatGPT pentru a căuta idei teoretice sau povești fanteziste privind uciderea familiei sale”.
Procurorii nu au afirmat că chatbotul i-ar fi dat instrucțiuni, iar conținutul exact al conversațiilor nu a fost făcut public. Avocata apărării, Debra DeWitt, a solicitat o evaluare psihiatrică. Aceasta l-a descris pe Aravind drept un tânăr aflat în stare de șoc, care „nu și-a dat seama că aceștia erau morți”.
Documentele judiciare arată că semnale de alarmă apăruseră anterior. Tatăl devenise din ce în ce mai îngrijorat de comportamentul fiului și de activitatea lui pe internet, motiv pentru care a ascuns cuțitele de bucătărie.
Cazul apare pe fondul unor reacții juridice și politice tot mai ample privind modul în care sistemele de inteligență artificială gestionează solicitările violente prezentate sub formă de concepte teoretice sau fictive, care au ocolit adesea mecanismele de siguranță.
Litigiile împotriva companiilor de tehnologie se înmulțesc: statul Florida a dat în judecată OpenAI pentru aspecte legate de siguranța minorilor, iar statul Pennsylvania a dat în judecată Character.AI, în timp ce legislatorii europeni au impus pentru ChatGPT obligații stricte în baza Regulamentului privind serviciile digitale.
OpenAI nu a oferit comentarii despre cazul din Massachusetts, însă a declarat că își consolidează filtrele de protecție, inclusiv controlul parental și detectarea limbajului de criză.
Aravind rămâne în arest fără posibilitatea eliberării pe cauțiune, în așteptarea audierii din 11 septembrie pentru stabilirea motivului probabil.
Te-ar putea interesa și: Un fermier a distrus aproape 10 hectare de culturi după ce a urmat sfaturile unui chatbot AI
About the Author
