Experții afirmă că agenții de inteligență artificială nu sunt responsabili din punct de vedere legal pentru niciun prejudiciu pe care îl provoacă. Atunci, cine este responsabil? În urma primului incident de hacking automatizat semnalat în Australia, specialiștii avertizează că cei care implementează – și, eventual, dezvoltatorii – agenților de IA ar putea fi trași la răspundere pentru acțiunile roboților lor, notează The Guardian.
Legea este clară, afirmă prof. Jeannie Paterson. „Dacă implementez un agent de IA și acesta provoacă un prejudiciu altcuiva, eu sunt responsabilă pentru acel prejudiciu.
„Chiar dacă nu am intenționat ca asta să se întâmple, era previzibil, și ar trebui să-mi asum responsabilitatea.”
Cu toate acestea, directoarea Centrului pentru IA și Etică Digitală al Universității din Melbourne recunoaște că există, de asemenea, o mare marjă de „neclaritate” juridică și etică în jurul acțiunilor comise de agenții automatizați, în urma primului „accident” cunoscut din Australia implicând un agent de IA.
Un agent este un sistem software autonom care, având sarcina de a atinge un obiectiv, poate face acest lucru fără supraveghere umană – la fiecare pas.
Agentul de IA care a spart sistemul unei săli de sport
Săptămâna aceasta, ABC a relatat cazul lui Andrew, un expert în IA care s-a prezentat doar cu prenumele, care i-a cerut programului său agentic să-i rezerve niște cursuri la sala de sport.
După ce a fost informat că se afla pe locul al patrulea pe lista de așteptare pentru un curs, Andrew l-a întrebat pe agent dacă era posibil să-l urce mai sus pe listă.
Spre surprinderea sa, agentul său a spart sistemul informatic al sălii de sport și a eliminat un alt membru de pe lista de așteptare, pentru ca el să poată participa mai repede la un curs.
„Putea rezerva cursuri cu luni înainte de perioada prevăzută pentru rezervări, înainte ca acestea să fie disponibile”, a scris Andrew într-o postare pe blog din aprilie.
„Mai rău, putea anula rezervările altor membri și îi putea elimina de pe lista de așteptare.”
Agentul voia să-l ajute, a scris el, dar experiența sa a arătat că, dacă îi dai unei inteligențe artificiale permisiunea să facă ceva pentru tine, aceasta „va descoperi adesea căi pe care nu i-ai cerut în mod explicit să le caute”.
Andrew i-a cerut agentului să anuleze anularea rezervării celeilalte persoane, dar acesta nu a putut face acest lucru.
„Îmi pare rău pentru asta – ar fi trebuit să fiu mai atent cu testul”, a răspuns agentul IA.
Apoi i-a cerut IA-ului să scrie un e-mail furnizorului de software al sălii de sport cu privire la vulnerabilitatea software-ului pe care o exploatase.
Un purtător de cuvânt al poliției din Victoria a declarat că situația lui Andrew „nu pare să implice nicio infracțiune”. Cu toate acestea, experții spun că vor exista cazuri mai dramatice care ar putea provoca daune – și ar încălca legea.
Citește și: Inteligența artificială a creat primele virusuri sintetice. Ce înseamnă această premieră pentru știință
Ambiguitate juridică
Legislația australiană se aplică doar persoanelor fizice, nu și entităților virtuale. Experții afirmă că persoana – sau compania – care pune în funcțiune agentul de IA este responsabilă din punct de vedere juridic. Și avertizează că acești „operatori” au adesea o idee foarte vagă despre răspunderea lor juridică.
„Vom vedea multe cazuri de acest gen”, spune dr. Rebecca Johnson, expertă în evaluarea și guvernanța IA la Universitatea din Sydney.
Paterson spune că, în cazul lui Andrew, acesta a dat dovadă de responsabilitate, făcând public incidentul și încercând să rezolve problema, dar în alte situații s-a observat „un fel de mentalitate de tip gung-ho”.
„De îndată ce le oferi oamenilor posibilitatea de a crea agenți care să facă lucruri în locul lor, este foarte probabil să apară accidente de acest gen”, spune ea.
Ce se întâmplă dacă agentul provoacă un prejudiciu?
Paterson oferă exemplul ipotetic al unei persoane care a avut o experiență neplăcută într-o locuință închiriată, așa că îi cere agentului său să scrie o recenzie.
„Iar agentul nu scrie doar una, ci scrie zece, produce recenzii în serie. Astfel, evaluarea anunțului se prăbușește. Ai putea distruge o afacere”, spune ea.
„Probabil că ești responsabil pentru implicarea într-o activitate frauduloasă; s-ar putea să fi calomniat proprietarul.”
Și ar putea fi și mai rău. „[Ce s-ar întâmpla dacă] ar folosi un limbaj rasist, sexist sau misogin?”, întreabă Paterson. „Atunci te-ai putea întreba unde sunt măsurile de protecție pe care dezvoltatorul le-a pus la dispoziție. Ar trebui să lansezi un produs care să fie rezonabil de sigur.”
În acest caz, dezvoltatorul ar putea fi, de asemenea, tras la răspundere pentru că nu a pus în aplicare măsuri de protecție de bază, iar aici ar putea apărea o anumită ambiguitate juridică, spune ea.
Paterson a afirmat că legea este diferită de etică, dar se bazează pe aceasta.
„Etica ne spune la ce ar trebui să aspirăm, iar legea exclude adesea cele mai grave forme de comportament”, spune ea.
Noul birou al guvernului federal dedicat IA enumeră o serie (neexhaustivă) de legi care se aplică IA, inclusiv cele privind încălcarea vieții private, protecția consumatorilor, siguranța online, calomnia și legile penale.
Citește și: Devin oamenii mai puțin inteligenți? Ce este „efectul Flynn invers” și de ce îi îngrijorează pe cercetători
Cine controlează, de fapt, agenții de IA?
Atât Paterson, cât și Johnson nu agreează termenul „necontrolat” – ideea că un agent de IA funcționează în întregime pe cont propriu – deoarece pot fi stabiliți parametri și măsuri de protecție.
„De îndată ce permitem agenților de IA să acționeze în numele nostru, aceștia acționează în funcție de obiectivul pe care îl stabilim, iar dacă nu le oferim o serie întreagă de parametri, agentul va încerca pur și simplu să atingă acel obiectiv [prin orice mijloace]”, spune Johnson.
„Aud mulți oameni spunând «Oh, am creat un agent», și fac diverse experimente, ceea ce e în regulă, dar li se pun la dispoziție aceste instrumente fără prea multă îndrumare, iar îndrumarea existentă are o calitate extrem de variabilă.”
În cele din urmă, spune Paterson, cazurile vor ajunge în instanță, unde se vor stabili precedente juridice, iar dezvoltatorii vor avea datoria de a monitoriza incidentele, de a-și adapta și îmbunătăți protocoalele în consecință.
Andrew a scris că situația sa i s-a părut „mai puțin o poveste izolată despre o eroare și mai mult o previzualizare”.
„Lucrurile devin ciudate. Și puțin mai înfricoșătoare.”
Editor : Ana Petrescu
About the Author
