Avertismentele privind ceea ce ar putea face inteligența artificială în viitor – alături de rapoarte alarmante despre ceea ce a reușit deja să facă – sunt emise atât de rapid încât chiar și experții în securitate au dificultăți în a stabili ce anume ar trebui să îi îngrijoreze.
Cu toate acestea, un raport publicat săptămâna trecută de echipa de cercetare ofensivă a Anthropic a atras atenția prin descrierea unei amenințări noi și concrete, lipsită de trăsături umane sau de speculații apocaliptice, notează The Guardian.
„Echipa roșie”, așa cum sunt numiți acești testeri interni, a declarat că a creat un program de IA rău intenționat care s-a răspândit în mod autonom prin televizoarele „inteligente” conectate la internet și ar putea face același lucru în interiorul altor dispozitive obișnuite. Deși mașinile care rulează IA au nevoie, de obicei, de o putere de calcul considerabilă, cercetătorii au afirmat că programul lor și-a împărțit părți ale sale între 15 televizoare și a reușit totuși să funcționeze folosind o mică parte din puterea fiecăruia.
De la IA la Harry Potter
Pe lângă faptul că amintește de horcruxurile care păstrau fragmente din sufletul Lordului Voldemort în viață în diverse obiecte din seria Harry Potter, raportul a alarmat unii specialiști, deoarece securitatea, în general precară, a televizoarelor inteligente și a multor alte dispozitive din „Internetul lucrurilor” ar fi foarte greu de remediat, chiar și printr-un efort concertat.
„Este un motiv de îngrijorare, la fel ca orice alt val de atacuri cibernetice. Trebuie să atenuăm posibilele efecte”, a declarat Joshua Saxe, care a condus dezvoltarea eforturilor Meta în domeniul securității IA. „Mă îngrijorează în acest moment faptul că membrii comunității de securitate cibernetică nu iau aceste riscuri reale atât de în serios pe cât ar trebui.”
Daune. Viermi „istorici”
Daunele provocate de astfel de „viermi IA” ar putea fi uimitor de mari. Virusii informatici care se autoreplică, care nu au nevoie să păcălească un om pentru a se propaga, sunt cunoscuți sub numele de viermi, iar viermii din trecut au provocat unele dintre cele mai grave ravagii din istoria internetului.
Printre aceștia se numără viermele Morris din 1988, care a apărut înainte ca internetul să devină accesibil publicului larg, când un student la masterat a lansat un program care a profitat de diverse vulnerabilități software și parole slabe, copiindu-se atât de rapid încât multe calculatoare infectate au încetinit până la blocare. Statele Unite și Israelul au introdus viermii în spionajul internațional cu ajutorul viermelui Stuxnet, care a acționat în secret la sfârșitul anilor 2000, sabotând centrifugele nucleare iraniene. Alți viermi, precum NotPetya din Rusia și WannaCry, atribuit Coreei de Nord, au provocat pagube în valoare de zeci de miliarde de dolari la nivel mondial.
Multe dintre cei mai distructivi viermi informatici din lume s-au bazat pe vulnerabilități cunoscute pe care proprietarii dispozitivelor nu le-au remediat, uneori chiar și la câteva luni după ce patch-urile au devenit disponibile. Echipa Anthropic a prevăzut că un vierme asemănător celui creat de ei ar putea funcționa în același mod și ar fi mai greu de oprit, deoarece dispozitivele inteligente primesc patch-uri mai rar decât telefoanele sau laptopurile. Mai grav, ei au emis ipoteza că un vierme bazat pe IA s-ar putea adapta în continuare la alte tipuri de hardware, cercetând vulnerabilitățile recent dezvăluite.
Viermi vs Viruși
Ceea ce diferențiază viermii bazați pe IA de virușii obișnuiți care se reproduc este faptul că modelele de IA pot învăța pe parcurs, a afirmat Ariel Herbert-Voss, unul dintre primii experți în securitate de la OpenAI, care conduce acum startup-ul de securitate IA RunSybil. Infrastructura existentă de securitate cibernetică nu este pregătită pentru proliferarea unor astfel de amenințări, a spus Herbert-Voss. „Trebuie să le oferim echipelor noastre de securitate condiții mai bune. Trebuie să le punem la dispoziție mai multe resurse pentru a remedia problemele.”
Scopuri benefice
Viermii ar putea fi folosiți și în scopuri benefice, a sugerat Chris Inglis, fost director adjunct al Agenției Naționale de Securitate (NSA), care a ocupat funcția de director național pentru securitate cibernetică în administrația Biden de la Casa Albă.
„Întrebarea dacă viermii IA sunt plauzibili a fost lămurită de mai multe incidente majore din ultimele șase luni”, a declarat Inglis printr-un mesaj digital. „Întrebarea mai pertinentă este cum îi vom folosi, cum îi vom contracara și/sau cum îi vom combina cu alte tehnologii emergente.”
Cercetătorii de la Anthropic au afirmat că un vierme de IA de succes ar trebui să aibă o capacitate mai mare pe dispozitive mai puțin performante decât este posibil în prezent – dar au adăugat că tendințele actuale vor face acest lucru posibil până la sfârșitul anului. Cercetarea lor vine în continuarea unui articol publicat de experții de la Universitatea din Toronto în urmă cu câteva luni, în care s-a demonstrat infectarea unui computer de dimensiuni normale și capacitatea acestuia de a se răspândi către mașini similare mai rapid decât viermele de televiziune.
Măsuri de securitate
„Capacitățile s-au dezvoltat foarte rapid”, a declarat coautorul și doctorandul din Toronto, Jonas Guan.
Guan și alți experți au afirmat că, din punct de vedere practic, un vierme bazat pe IA nu ar trebui să se afle în fruntea listei temerilor legate de IA. Versiunea Anthropic se mișcă foarte încet, a spus Guan, iar viermii au acțiuni previzibile și detectabile, care pot fi blocate la mai multe niveluri. Măsurile elementare de securitate, inclusiv utilizarea parolelor puternice și a autentificării în doi pași, ar opri majoritatea viermilor și a altor atacuri cibernetice, au afirmat experții.
„Nimic din toate acestea nu este cu adevărat fezabil sau semnificativ”, a declarat Juan Andres Guerrero-Saade, vicepreședinte de cercetare la firma de securitate SentinelOne. „Este o acțiune de hacking ingenioasă, care capătă o amplificare mult mai mare în serviciul narațiunilor apocaliptice ridicole care sugerează că modelele au o minte și o voință proprie.”
Furtuna IA
„Afirmația că o mare parte din toate acestea ține de marketing este corectă, dar realitatea depășește cu mult orice campanie de relații publice”, a declarat Gadi Evron, care organizează luna aceasta la San Francisco o conferință despre securitatea IA, intitulată „Unprompted”. „Indiferent de afirmațiile laboratoarelor, acestea nu ne avertizează suficient. Trebuie să înțelegem că nimeni nu poate opri furtuna IA.”
Editor : Sebastian Eduard
About the Author
