Dario Amodei, fondatorul și directorul executiv al companiei de inteligență artificială Anthropic, a avertizat că progresele recente ale AI au început să depășească capacitatea industriei de a înțelege și controla pe deplin tehnologia, cerând o încetinire a dezvoltării în acest domeniu. Mesajul lui, care a găsit sprijin la Elon Musk, vine la câteva zile după un avertisment similar al fondatorului OpenAI, Sam Altman. În același timp, a ieșit la lumină un alt atac „ascuns” al unor agenți AI scăpați de sub control, care a avut loc înainte de atacul asupra companiei Hugging Face.
Directorul executiv al Anthropic, Dario Amodei, a lansat sâmbătă un apel pentru încetinirea imediată a dezvoltării inteligenței artificiale, avertizând că progresele recente din domeniul AI au început să depășească capacitatea industriei de a înțelege și controla tehnologia, scrie Politico.
Mesajul său reprezintă cel mai recent semnal dintr-o serie de apeluri lansate din interiorul industriei tehnologice pentru reducerea ritmului de lansare a sistemelor AI de ultimă generație, deși realizarea acestui obiectiv ar putea necesita și un acord prin care SUA să convingă China să facă același lucru.
Într-un eseu amplu publicat sâmbătă, Amodei a argumentat că simpla creștere a investițiilor în siguranța AI nu mai este suficientă. În schimb, el a susținut că firmele care dezvoltă modele de frontieră trebuie să reducă ritmul în care le sporesc capacitățile, oferind astfel cercetătorilor și guvernelor mai mult timp pentru a dezvolta măsuri de protecție înainte ca AI să devină substanțial mai puternică.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor AI”, a scris Amodei. „Progresul va părea în continuare rapid, dar trebuie să folosim cu înțelepciune timpul pe care îl câștigăm.”
Casa Albă nu a răspuns imediat solicitărilor Politico de comentarii cu privire la această chestiune.
Musk: „Dario are dreptate”
Elon Musk, una dintre celelalte figuri marcante din domeniul AI la nivel mondial, a susținut argumentele lui Amodei, declarând: „Dario are dreptate.”
Aceasta reprezintă o escaladare notabilă din partea celor mai importante personalități din cursa AI.
Amodei a avertizat de mult timp cu privire la potențialele pericole ale AI avansate, susținând totodată că tehnologia ar putea transforma o varietate de domenii. Însă Amodei a precizat că evoluțiile din ultimele luni l-au făcut să își reevalueze poziția față de acest progres rapid.
Cea mai mare schimbare, a argumentat el, este capacitatea în rapidă creștere a sistemelor AI de a ajuta la construirea următoarei generații de AI.
Acest proces, numit adesea auto-îmbunătățire recursivă, s-a accelerat aproximativ din această vară, a scris el, ridicând perspectiva ca progresele din domeniul AI să depășească în cele din urmă capacitatea oamenilor de a înțelege ce fac aceste sisteme din ce în ce mai capabile.
„Lăsat necontrolat, acest proces ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme”, a scris Amodei.
OpenAI dezvăluie un alt atac comis „ascuns”
În paralel cu apelul lui Amodei, a ieșit la iveală un alt incident în care a fost implicată inteligența artificială creată de OpenAI.
Inteligența artificială dezvoltată de OpenAI a lansat un atac cibernetic împotriva unui serviciu online cu câteva luni înainte de atacul din iulie asupra startup-ului Hugging Face, a confirmat compania vineri – o dezvăluire care ar putea amplifica apelurile pentru reglementarea siguranței în întreaga industrie, potrivit Politico.
Ultima dezvăluire arată că modele OpenAI aflate încă în faza de testare au accesat un serviciu online pentru programatori numit RubyGems cu scopul de a crea rapoarte și de a completa tabele de date. Administratorii site-ului au blocat înregistrările de conturi noi în timp ce gestionau consecințele. Deși OpenAI nu oferise programelor acces complet la internet, agenții AI au ocolit controalele concepute pentru a-i împiedica să acceseze rețeaua publică.
The Wall Street Journal a fost prima publicație care a raportat implicarea OpenAI în incidentul RubyGems.
„Conform evaluării noastre, agenții noștri au folosit platforma RubyGems pentru a accesa internetul în scopul de a executa sarcini inofensive și de a prelua informații publice”, a declarat un purtător de cuvânt al OpenAI.
„Vom continua să investigăm ca parte a reevaluării noastre mai largi privind activitatea agenților în timpul etapelor de instruire și evaluare.”
Ruby Central, organizația nonprofit care administrează RubyGems, nu a răspuns imediat solicitărilor de comentarii.
Ținta dezbaterilor politice
Liderii politici au lansat investigații cu privire la incidentul Hugging Face din iulie, în care agenți OpenAI aflati în mediu de testare au accesat internetul liber și au spart autonom baza de date a companiei.
Acel atac a dus la apeluri pentru o abordare mai sigură în instruirea sistemelor autonome tot mai puternice. Senatorul Bernie Sanders și reprezentantul Greg Casar au cerut chiar interzicerea așa-numitei superinteligențe.
Președintele Donald Trump și câțiva alți republicani au minimalizat în această săptămână preocupările privind riscurile catastrofale, susținând că țara trebuie să învingă China în cursa pentru dezvoltarea acestei tehnologii.
Un fost cercetător al companiilor Anthropic și OpenAI a tras un semnal de alarmă în această săptămână, declarând că industria se află într-o cursă pentru dezvoltarea unei tehnologii care ar putea scăpa de sub control și distruge societatea, provocând reacții din California până la Washington pentru intensificarea măsurilor de siguranță.
Procurorul general din California, Rob Bonta, a declarat săptămâna trecută că investighează incidentul Hugging Face, iar o coaliție de procurori generali din state republicane cercetează de asemenea problema. Între timp, guvernatorul Californiei, Gavin Newsom, a semnat recent o legislație pentru a spori siguranța copiilor în utilizarea chatbot-urilor și pentru a pune bazele unor audituri externe de siguranță ale programelor AI.
Anthropic și Meta au dezvăluit la rândul lor cazuri în care programele lor AI au executat atacuri cibernetice autonome. Săptămâna trecută, un grup de cercetători a făcut publică ceea ce au descris ca fiind o intruziune separată orchestrată de programele OpenAI.
Editor : B.P.
About the Author
