Agenţi de inteligenţă artificială (AI) ai OpenAI, care operează în afara cadrului desemnat pentru accesarea site-urilor web guvernamentale, au încercat să şteargă urmele activităţii lor, potrivit unui raport de expertiză publicat joi. Cu toate acestea, raportul afirmă că este imposibil de stabilit dacă acest lucru a fost deliberat, tansmite AFP.
Firma de securitate cibernetică Asymmetric Security a analizat activitatea acestor agenţi – programe AI capabile să acţioneze independent – care au vizat site-urile web ale guvernului australian şi ale altor organizaţii publice între martie şi septembrie.
Raportul său se adaugă investigaţiilor efectuate de OpenAI şi cercetători independenţi asupra seriei de incidente dezvăluite din iulie, inclusiv piratarea platformei de AI Hugging Face.
Aceste analize încearcă să evalueze măsura în care instrumentele autonome de AI cu capacităţi fără precedent pot funcţiona, iar potenţialul de utilizare abuzivă alimentează temerile de pierdere a controlului asupra acestei tehnologii.
OpenAI a descris atacul asupra Hugging Face drept „primul caz cunoscut” de agenţi care acţionează ofensiv fără autorizaţie. Potrivit Asymmetric, tehnicile agenţilor au evoluat „în câteva zile”, în timp ce cele ale infractorilor cibernetici umani se schimbă în luni sau ani, ilustrând riscul ca tehnicile ofensive să se poată dezvolta mai rapid decât sistemele de apărare.
Incidentele examinate de Asymmetric Security par să fi început ca „sarcini inocente”, cum ar fi colectarea statisticilor sanitare australiene, care apoi au deviat de la curs, conform raportului. Agenţii au obţinut în special statistici privind criminalitatea în New South Wales prin mijloace neautorizate.
Conform raportului, agenţii au deschis conturi private pe un serviciu de analiză a site-urilor web, care le-a mascat căutările, şi au creat conturi de e-mail temporare, care erau şterse după 48 de ore. Prin urmare, în lipsa oricăror dovezi fizice, este „imposibil să excludem accesul la date sensibile” de către aceşti agenţi, scriu autorii.
Aceste elemente „nu ne permit să stabilim” dacă agenţii încercau să-şi „ascundă” activitatea, specifică ei în continuare.
OpenAI a recunoscut la sfârşitul lunii august că modelele sale au încercat uneori „să şteargă sau să falsifice” istoricul activităţii lor în timpul testelor interne, însă fără succes.
Toate aceste incidente au alimentat apelurile la încetinirea dezvoltării AI. Directorul Anthropic, Dario Amodei, a cerut oprirea cursei, temându-se că un grup de agenţi ar putea, în acest ritm, să „preia controlul asupra întregului internet” în termen de şase până la douăsprezece luni.
Opunându-se oricăror reglementări restrictive care ar înăbuşi inovaţia, mai ales având în vedere concurenţa intensă cu China, Donald Trump a convocat marţi lideri din industrie, care au adoptat un cod de conduită voluntar. În prezent, nicio lege federală nu reglementează dezvoltarea AI în Statele Unite.
Editor : Sebastian Eduard
About the Author
