Șefii celor mai mari companii din domeniul AI, printre care Anthropic și OpenAI, analizează în privat diverse scenarii privind revolte publice și politice în urma unui eveniment catastrofal legat de inteligența artificială, scrie Axios.
Cei mai puternici oameni din AI anticipează un eveniment de amploare, cel mai probabil un atac cibernetic, care ar bloca accesul la serviciile financiare, la conexiunea la internet sau chiar la energie electrică și apă.
Primul exemplu de prejudiciu semnificativ în lumea reală cauzat de o inteligență artificială nesigură ar determina un public deja circumspect să se întoarcă și mai mult împotriva tehnologiei și a liderilor acesteia – inclusiv a lui Dario Amodei, șeful Anthropic, și a lui Sam Altman, șeful OpenAI -, precum și a președintelui american Donald Trump, pentru reticența sa de a reglementa acest domeniu.
Deși planificarea scenariilor este o practică obișnuită în cadrul multor companii și al instituțiilor de securitate națională – Pentagonul desfășoară jocuri de război de zeci de ani – diferența constă în faptul că mulți cercetători și directori de vârf din domeniul AI consideră că un incident major este inevitabil.
„OpenAI desfășoară exerciții de pregătire în cadrul cărora echipele discută și analizează o serie de scenarii potențiale”, a declarat un purtător de cuvânt al companiei, potrivit Axios.
„Aceste scenarii nu sunt considerate inevitabile, ci sunt menite să ne ajute să ne pregătim pentru o varietate de circumstanțe”, a adăugat el.
Anthropic a refuzat să comenteze subiectul.
Economia globală ar putea avea de suferit
Jocul de a da vina va începe indiferent dacă un roi de agenți AI va scăpa de sub controlul unui mediu de testare intern sau dacă un actor rău intenționat va găsi modalități neașteptate de a utiliza modelele disponibile.
O campanie recentă care a vizat organizații financiare din Coreea de Sud, inclusiv încălcări raportate la două bănci, arată pagubele pe care le poate provoca o singură persoană.
Un hacker din China ar fi folosit instrumente de AI bazate pe modele dezvoltate în China, printre care și DeepSeek, pentru a fura date de la zeci de mii de clienți bancari. Potrivit firmei de securitate cibernetică CrowdStrike, atacatorul a folosit Claude Code pentru a cere ajutor în găsirea unor locuri unde să vândă datele furate.
Principalii responsabili din domeniul AI presupun că democrații, aflați în ascensiune după alegerile de la jumătatea mandatului, vor acționa rapid pentru a bloca dezvoltarea AI, dar se vor confrunta cu provocări semnificative.
Un Congres îmbătrânit, depășit de revoluția AI, s-ar putea trezi depășit de situație.
Pe de altă parte, economia globală este acum strâns legată de dezvoltarea infrastructurii de AI. Încetinirea acestui proces ar putea afecta grav o economie deja fragilă, mai scrie Axios.
Prea multe modele AI pot fi deja descărcate gratuit și utilizate pentru a provoca daune, o problemă pe care majoritatea specialiștilor în securitate cibernetică o consideră rezolvabilă doar prin utilizarea AI pentru a combate AI rău intenționată.
Un eveniment major la orizont
Conducătorii companiilor AI știu că reglementarea nu are nicio șansă să fie adoptată în acest moment, dar doresc totuși să modeleze legislația și politicile la care liderii SUA vor apela după un prim eveniment catastrofal.
Mulți specialiști din industria AI au declarat pentru Axios că sunt de părere că în următoarele șase până la 12 luni va avea loc un eveniment major.
Chiar și în condițiile în care democrații ar deține controlul asupra Camerei Reprezentanților și Senatului, companiile consideră că fragmentarea politică este norma, inclusiv în cadrul Partidului Democrat.
Printre cele mai radicale propuneri ale democraților se numără interzicerea superinteligenței sau suspendarea dezvoltării AI avansate.
Alte propuneri beneficiază de sprijin bipartizan și chiar de acceptul unor reprezentanți ai industriei, inclusiv obligativitatea unui „kill switch” (buton de oprire de urgență) pentru AI avansată.
Pe de altă parte, experții au pus sub semnul întrebării fezabilitatea încercării de a opri toate sistemele de AI.
Totuși, mai scrie Axios, într-o criză reală, Washingtonul ar putea lăsa deoparte diferențele partizane, un consilier democrat amintind de cooperarea din timpul pandemiei de COVID și al crizei financiare din 2008.
Editor : B.P.
About the Author
