Inteligența artificială este comparată tot mai des cu armele nucleare – de la Elon Musk și Sam Altman până la oficiali americani și cercetători din domeniu. Analogia are însă limite importante. Spre deosebire de materialele necesare unei bombe, care pot fi urmărite și contabilizate, modelele de IA pot fi copiate, transferate și adaptate, iar dezvoltarea lor este dominată de companii private. În plus, lumea nu a avut încă un moment comparabil cu Hiroshima și Nagasaki care să transforme riscurile IA din scenarii teoretice în realitate incontestabilă. Autorii unei analize citate de Foreign Affairs susțin că încercarea de a construi guvernanța IA după modelul nuclear riscă să ignore tocmai particularitățile care fac această tehnologie atât de greu de controlat.
În încercarea de a limita pericolele generate de dezvoltarea rapidă a inteligenței artificiale, mulți cercetători, oameni de afaceri și oficiali se uită către cea mai revoluționară tehnologie care a precedat-o: armele nucleare.
Elon Musk, directorul executiv al SpaceX, a descris inteligența artificială drept „mult mai periculoasă decât armele nucleare”. Dario Amodei, CEO-ul Anthropic, le recomandă angajaților să citească „The Making of the Atomic Bomb” și s-a comparat cu Leo Szilard, unul dintre oamenii de știință implicați în Proiectul Manhattan. Amodei a descris cele mai puternice modele de IA drept „materiale nucleare care pot fi transformate în arme”.
Întrebat cum ar putea fi reglementată o tehnologie precum inteligența artificială, Sam Altman, CEO-ul OpenAI, face frecvent referire la Agenția Internațională pentru Energie Atomică, organismul internațional responsabil de supravegherea activităților nucleare. Aceeași comparație a fost făcută și de directorul CIA, John Ratcliffe.
Există, într-adevăr, asemănări. IA de ultimă generație este puternică și dificil de controlat, la fel ca tehnologia nucleară. Ambele pot fi folosite în scopuri civile, dar și în scopuri periculoase. Iar cursa pentru progrese în IA ar putea avea asupra echilibrului global al puterii efecte comparabile, cel puțin în anumite privințe, cu cele produse de cursa înarmărilor din timpul Războiului Rece.
De aici vine tentația de a considera experiența nucleară un model pentru guvernarea IA. Problema este că această comparație poate crea o imagine prea optimistă despre succesul regimului de control nuclear și poate ascunde diferențele esențiale dintre cele două tehnologii.
Materialele nucleare pot fi urmărite și contabilizate într-o măsură mult mai mare decât componentele unui sistem de IA. Armele nucleare au fost proiectate și construite sub control guvernamental strict și continuă să se afle în principal sub autoritatea statelor. Inteligența artificială este dezvoltată în primul rând de companii private, care au motivații comerciale puternice și se mișcă într-un ritm cu care instituțiile publice încearcă să țină pasul.
În plus, tehnologia nucleară are domenii de utilizare relativ bine delimitate. IA poate fi folosită aproape în orice sector, de la medicină și economie până la securitate și operațiuni militare.
Guvernanța inteligenței artificiale mai are o problemă: factorii de decizie trebuie să convingă publicul să susțină măsuri de control chiar dacă amploarea unora dintre riscuri rămâne abstractă.
Dezvăluirile recente ale OpenAI, Anthropic, Google și Meta, potrivit cărora modele avansate au ieșit din mediile de testare și au obținut acces neautorizat la internet, au provocat îngrijorare la Washington. Consecințele acestor incidente sunt însă încă neclare. Ele sunt departe de experiența cotidiană a majorității oamenilor și nu au produs până acum daune la scară largă.
Prin urmare, este puțin probabil ca astfel de incidente, luate separat, să genereze presiunea politică susținută necesară pentru construirea și menținerea unui regim de supraveghere pe termen lung.
În ciuda numeroaselor avertismente formulate de cercetători și factori de decizie cu privire la riscurile IA, tehnologia nu a trecut încă printr-un moment comparabil cu folosirea armelor nucleare la sfârșitul celui de-al Doilea Război Mondial, care a transformat frica într-un impuls politic pentru acțiune.
Lumea nu își poate permite însă să aștepte un asemenea moment. Istoria poate fi un punct de plecare util, dar nu oferă un model gata construit pentru problema IA. Inteligența artificială nu seamănă cu nicio tehnologie anterioară, iar sistemul destinat guvernării sale va trebui, la rândul său, să fie diferit.
Un noroc improbabil
Cele mai ambițioase propuneri internaționale pentru reglementarea IA se inspiră din sistemul de guvernanță nucleară. Ideea este că un astfel de cadru ar putea contribui atât la reducerea potențialelor daune provocate de IA, cât și la consolidarea rolului Statelor Unite în stabilirea regulilor internaționale.
Haydn Belfield, cercetător științific la Google DeepMind, a propus un acord inspirat din Tratatul de neproliferare nucleară, care ar permite doar anumitor state, cu sisteme interne suficiente de reglementare, să dețină cipuri puternice. Ar fi, practic, un regim de neproliferare pentru inteligența artificială.
Alți susținători ai unei reglementări internaționale, printre care și Sam Altman, pledează pentru un organism independent de experți care să aibă competențe extinse de inspecție și verificare a activităților din domeniul IA, într-o formulă mai apropiată de AIEA.
O a treia categorie încearcă să adapteze la cursa pentru IA practicile de control al armamentului și principiul vulnerabilității reciproce care au contribuit la stabilizarea competiției dintre Statele Unite și Uniunea Sovietică în timpul Războiului Rece.
Atractivitatea acestor precedente este ușor de înțeles. Ordinea nucleară este considerată unul dintre puținele exemple importante de guvernanță globală construite după război. Într-un discurs susținut în 1953 la Națiunile Unite, președintele american Dwight Eisenhower a prezentat planul „Atomi pentru pace”, care urmărea limitarea riscurilor tehnologiei nucleare și promovarea, în același timp, a beneficiilor sale.
Țările puteau avea acces la tehnologia nucleară cu condiția să accepte să renunțe la utilizarea acesteia în scopuri militare.
Problema proliferării nu a fost însă rezolvată imediat. În 1963, președintele John F. Kennedy estima că între 15 și 25 de state ar putea deveni puteri nucleare în deceniul următor. În aceeași perioadă, numeroși oficiali americani de rang înalt considerau că un război nuclear era inevitabil.
În anii 1970, Tratatul de neproliferare nucleară a intrat în vigoare. Regimul de inspecții și verificare condus de experții AIEA și susținut de Washington și Moscova a început să contribuie la aplicarea prevederilor tratatului.
Cele două superputeri au negociat restricții privind testele nucleare, au organizat summituri dedicate controlului armamentelor și au creat o linie telefonică directă pentru situații de criză.
Astăzi, TNP are o acceptare internațională foarte largă. Doar nouă state dețin arme nucleare, iar niciun război nuclear nu a avut loc. Pentru mulți, această situație sugerează că lumea a găsit un echilibru între limitarea riscurilor și folosirea pașnică a tehnologiei nucleare.
Dar istoria neproliferării și a controlului armamentelor este mult mai complicată.
În numeroase cazuri, presiunile exercitate de superputeri și costurile ridicate au contribuit la abandonarea programelor nucleare.
Coreea de Sud și Taiwanul au renunțat la programele lor incipiente de arme nucleare după presiuni intense din partea Statelor Unite. Acestea au fost însoțite de garanții de securitate, acces la piață și amenințarea retragerii sprijinului militar dacă programele nu erau abandonate.
Atacurile aeriene israeliene au distrus programele nucleare irakian și sirian. Libia a renunțat la propriul program în urma presiunilor susținute exercitate de Statele Unite și Marea Britanie.
Alte state au renunțat la ideea dezvoltării unei bombe din motive interne. Suedia și Elveția au abandonat proiectele nucleare din cauza costurilor ridicate. Argentina și Brazilia au renunțat la astfel de programe după ce tranzițiile democratice au dus la o reorientare a politicilor lor externe către cooperarea regională.
Africa de Sud a construit șase focoase nucleare, pe care ulterior le-a dezmembrat, într-un moment în care sfârșitul apartheidului a schimbat prioritățile interne și externe ale țării.
Atunci când statele au fost hotărâte să dezvolte arme nucleare și au avut capacitatea de a rezista presiunilor externe, regimul de neproliferare a avut o capacitate limitată de a le opri.
India, Israel, Coreea de Nord și Pakistan au reușit să construiască bomba. Prin urmare, regimul a rămas întotdeauna incomplet. El s-a bazat pe cooperarea statelor nucleare și pe disponibilitatea acestora de a recurge la presiuni sau, în anumite cazuri, la forță pentru a împiedica proliferarea. În același timp, nu a reușit să-i descurajeze pe toți actorii hotărâți să obțină arme nucleare.
Nici puterile nucleare existente nu au cooperat întotdeauna. China și Franța, două dintre cele cinci state cu arme nucleare recunoscute în cadrul TNP, au aderat la tratat abia în 1992.
Cât de mult a depins lumea de noroc
Istoria neutilizării armelor nucleare este, la rândul său, mai puțin liniară decât sugerează uneori prezentarea ordinii nucleare. Explicația tradițională pentru perioada de 81 de ani fără război nuclear pune accentul pe o serie de mecanisme bilaterale: negocierile privind controlul armamentelor, liniile telefonice directe, notificările și avertismentele, precum și pozițiile de descurajare calibrate.
Aceste mecanisme au contribuit la împiedicarea rivalității dintre Washington și Moscova să escaladeze într-un război nuclear.
Dar o analiză mai atentă a perioadei arată cât de aproape a fost lumea, în unele momente, de o catastrofă. Criza rachetelor din Cuba, din octombrie 1962, este unul dintre cele mai cunoscute exemple. Washingtonul și Moscova s-au apropiat atunci extrem de mult de un conflict nuclear.
Sergey Radchenko și Vladislav Zubok au susținut într-o analiză publicată în revista „Foreign Affairs” în 2023 că decizia premierului sovietic Nikita Hrușciov de a amplasa arme nucleare în Cuba a fost o operațiune prost planificată, care a presupus un nivel foarte mare de risc și, în cele din urmă, de noroc.
Mai multe situații din timpul crizei ar fi putut conduce la folosirea armelor nucleare. Planurile americane pentru invadarea Cubei fuseseră elaborate fără ca Washingtonul să cunoască amploarea prezenței nucleare sovietice de pe insulă.
Un submarin sovietic a fost la un pas de a lansa o torpilă nucleară asupra forțelor navale americane din Caraibe.
Într-un alt incident, un avion de spionaj U-2 a intrat accidental în spațiul aerian sovietic. Pentru a-l proteja de o eventuală urmărire sovietică, acesta a fost escortat către casă de avioane americane de interceptare înarmate nuclear.
Multe dintre aceste momente s-au produs la niveluri inferioare ale lanțului de comandă, fără ca John F. Kennedy sau Nikita Hrușciov să fie direct informați sau implicați.
Analize mai recente arată că sentimentul tot mai puternic al celor doi lideri că nu mai controlau complet evenimentele, și nu doar dorința de a-și învinge adversarul, a contribuit la încheierea crizei și a stimulat ulterior eforturile pentru limitarea competiției dintre cele două superputeri.
Au urmat și alte incidente legate de armele nucleare: alarme false, exerciții militare interpretate greșit și prăbușiri ale unor bombardiere nucleare.
Creșterea dependenței strategiei americane de rachetele intercontinentale și de cele lansate de pe mare a sporit și mai mult riscul. Aceste arme puteau ajunge la țintă mai repede decât bombardierele, ceea ce le lăsa factorilor de decizie mai puțin timp pentru identificarea și corectarea unor erori.
Nici sistemele de avertizare create pentru detectarea atacurilor nu erau infailibile.
În noiembrie 1979, un sistem american de alertă în timp real a interpretat o înregistrare de test drept un atac sovietic de amploare. Înainte ca eroarea să fie identificată, cel puțin zece avioane de vânătoare au fost trimise în misiune, iar avionul prezidențial de urgență a decolat fără ca președintele să se afle la bord.
În septembrie 1983, sistemul sovietic de avertizare timpurie al locotenent-colonelului Stanislav Petrov a indicat că Statele Unite ar fi lansat un atac. Petrov a apreciat corect că era vorba despre o defecțiune a sistemului.
Astfel de exemple arată că instituțiile construite pentru a preveni proliferarea și folosirea armelor nucleare nu au eliminat posibilitatea unei catastrofe.
Pe măsură ce arhivele privind istoria nucleară au devenit accesibile cercetătorilor, au fost descoperite tot mai multe situații în care un asemenea deznodământ a fost evitat la limită.
De aici apare o întrebare importantă: cât din succesul ordinii nucleare se datorează instituțiilor și cât se datorează întâmplării? Atribuirea succesului exclusiv instituțiilor ar putea lăsa viitorii arhitecți ai guvernanței IA nepregătiți pentru riscurile acestei tehnologii.
Faptul că niciun model de IA de ultimă generație nu a provocat încă o catastrofă ar putea fi, la rândul său, o chestiune de timp și de circumstanțe. Iar circumstanțele se pot schimba.
Testarea limitelor
Modelul nuclear devine și mai puțin convingător dacă este analizată fragilitatea actuală a acordurilor privind controlul armamentelor. Relația dintre Rusia și Statele Unite, care împreună dețin încă cea mai mare parte a arsenalului nuclear mondial, se află la cel mai scăzut nivel de după Războiul Rece.
Principalele acorduri care au reglementat arsenalele celor două state au fost abandonate sau au expirat. Printre acestea se numără Noul START, care a limitat armele strategice, și Tratatul privind forțele nucleare cu rază intermediară de acțiune.
Războiul Rusiei în Ucraina și incertitudinile privind angajamentul Statelor Unite față de NATO au determinat mai multe state europene să discute alte forme de partajare nucleară.
În unele țări, inclusiv în Polonia, oficialii au vorbit deschis despre posibilitatea dezvoltării sau achiziționării unei capacități nucleare.
China își extinde în continuare arsenalul, fără să fie constrânsă de un tratat comparabil și fără un mecanism extern de supraveghere asupra acestui proces. Stocul nuclear al Chinei aproape s-a triplat din 2020, iar Pentagonul estimează că Beijingul ar putea ajunge la 1.000 de focoase până în 2030.
Nici aliații Statelor Unite din Pacific nu sunt lipsiți de preocupări. În Coreea de Sud, sondajele indică în mod constant un sprijin majoritar pentru dezvoltarea unui arsenal nuclear național destinat contracarării Coreei de Nord.
În Japonia, una dintre țările cu cele mai puternice tradiții antinucleare, politicienii au început să pună tot mai mult sub semnul întrebării vechiul tabu și să discute descurajarea nucleară ca element al apărării naționale.
Pentru unii, Tratatul de neproliferare nucleară rămâne ultimul obstacol între actuala ordine nucleară și o proliferare necontrolată.
Chiar și viitorul acestui tratat este însă pus sub semnul întrebării. TNP le cere statelor care dețin arme nucleare să negocieze cu bună-credință în vederea dezarmării. Această obligație a reprezentat unul dintre motivele pentru care statele fără arme nucleare au acceptat să renunțe la dezvoltarea lor.
În ultimul deceniu, însă, tendințele au indicat creșterea și modernizarea arsenalelor nucleare, mai degrabă decât reducerea lor. Peste 90 de state, aproximativ jumătate dintre statele membre ale TNP care nu dețin arme nucleare, au semnat un tratat separat care interzice în totalitate armele nucleare.
Statele nucleare și aliații acestora au refuzat să adere și susțin că un asemenea acord poate submina actuala arhitectură de securitate.
Limitele sistemului de neproliferare sunt deosebit de vizibile în Orientul Mijlociu. Israelul nu a recunoscut niciodată oficial că deține arme nucleare și nu a aderat la TNP, dar și-a transformat programul nuclear în capacitate militară în anii 1960.
Israelul a atacat, de asemenea, instalațiile nucleare ale unor state vecine. În 1981, a distrus un reactor irakian aflat în construcție, iar în 2007 a lovit o instalație siriană.
Eforturile internaționale de a împiedica dezvoltarea programului nuclear irakian au culminat cu invazia americană din 2003.
Statele Unite sunt acum din nou implicate într-un război în regiune, de această dată cu Iranul, iar pericolele asociate programului nuclear iranian au fost invocate, cel puțin parțial, pentru justificarea acțiunilor americane.
IA nu este ca celelalte tehnologii
Există și motive mai fundamentale pentru care modelul nuclear nu poate fi transferat pur și simplu în domeniul inteligenței artificiale. Ordinea nucleară funcționează, în parte, pentru că materialele necesare construirii armelor nucleare sunt identificabile, măsurabile și limitate fizic.
Pentru dezvoltarea unei arme nucleare sunt necesare cantități importante de izotopi ai două elemente principale: uraniul și plutoniul. Ambele sunt costisitoare de produs, pot fi măsurate și urmărite și necesită instalații mari și complexe pentru producție și procesare.
Plutoniul, în plus, apare în natură doar în cantități foarte mici. Faptul că uraniul destinat reactoarelor poate fi îmbogățit ulterior până la nivelul necesar unei arme înseamnă că inspectorii trebuie să urmărească îndeaproape activitățile statelor.
În același timp, observatorii externi pot estima, în linii mari, ce poate face un stat cu infrastructura nucleară pe care o deține și dacă acea infrastructură începe să fie orientată către producerea de arme.
Și dezvoltarea IA lasă urme fizice. Sunt necesare cipuri avansate, echipamente pentru producerea semiconductorilor, mașini de fotolitografie, fabrici și, mai ales, centre de date.
Acest lucru face ca dezvoltarea IA să fie, cel puțin parțial, observabilă și trasabilă. Extinderea infrastructurii IA reprezintă deja una dintre cele mai importante mobilizări industriale din istorie.
Clusterele de antrenare, care conectează mii de cipuri avansate în centre de date, pot ocupa suprafețe foarte mari și pot consuma cantități de energie comparabile cu cele ale unor orașe de dimensiuni medii. Unele asemenea instalații sunt suficient de mari pentru a putea fi observate din satelit.
Din acest motiv, multe propuneri de guvernanță a IA se concentrează asupra lanțului fizic. Pentru moment, concentrarea puterii de calcul de înaltă performanță reprezintă una dintre cele mai ușor de controlat pârghii pentru limitarea capacității unor actori noi de a construi sisteme IA avansate.
Dar amprenta fizică a inteligenței artificiale este diferită de cea a unei arme nucleare.
În cazul unei instalații pentru producerea materialului fisionabil, observatorii pot estima cantitatea de material de calitate militară disponibilă și, prin urmare, numărul aproximativ de arme care ar putea fi produse.
În IA, legătura dintre infrastructură și capacitate nu este fixă. Puterea de calcul este strâns legată de performanța modelelor. În ultimul deceniu, creșterea puterii de calcul și a cantității de date disponibile a dus la apariția unor sisteme mai capabile.
Corelația nu este însă una rigidă. Eficiența algoritmică se îmbunătățește permanent. Ceea ce necesită resurse de ultimă generație într-un anumit an poate deveni mai ieftin și mai accesibil în anul următor.
În plus, capacitățile unor modele mari pot fi transferate sau reproduse în modele mult mai mici.
Un model poate continua să evolueze Problema nu se termină odată cu antrenarea modelului. Un sistem de IA poate produce rezultate diferite în funcție de software-ul cu care este conectat și de instrumentele la care are acces.
Modelele pot deveni mai performante și dacă primesc mai mult timp și mai multă putere de calcul pentru rezolvarea unor probleme. În cazul armelor nucleare, o cantitate dată de material fisionabil limitează dimensiunea arsenalului și capacitatea statului de a produce noi arme.
Puterea de calcul necesară pentru antrenarea unui model IA nu reprezintă o constrângere comparabilă. Capacitatea Chinei de a ține pasul cu progresele americane în domeniul IA, în ciuda dezavantajului său în materie de putere de calcul, este una dintre dovezile acestei diferențe.
IA are și ceea ce poate fi numită o „problemă de turnătorie”. După antrenarea unui model, ponderile sale pot fi separate de infrastructura care a fost folosită pentru a-l crea.
Ponderile sunt parametrii numerici care definesc comportamentul modelului după antrenare. Ele pot fi copiate, transferate, modificate și implementate în alte sisteme.
Mai mulți dezvoltatori, în special, dar nu exclusiv, în China, au făcut publice astfel de modele pentru a încuraja adoptarea lor.
Modelele cu ponderi deschise pot fi descărcate și modificate de alte persoane sau organizații. În prezent, unele dintre ele se apropie de nivelul modelelor americane de vârf în mai multe privințe, diferența fiind măsurată în unele cazuri în luni și nu în ani.
În lumea armelor nucleare nu există un echivalent direct pentru publicarea unei capacități de uz general, care poate fi îmbunătățită și care poate avea aplicații transformatoare. Utilizarea unui model de ultimă generație la o scară economică sau militară importantă necesită în continuare o putere de calcul considerabilă.
Unele guverne au introdus controale asupra exportului de cipuri, considerând că limitarea accesului la aceste componente poate împiedica un adversar să acumuleze suficientă putere de calcul pentru a antrena și utiliza modele avansate.
Dar orice avantaj oferit de puterea de calcul este parțial și se poate diminua în timp. Ponderile furate sau publicate pot fi rulate în numeroase alte locuri, iar cantitatea minimă de resurse necesară pentru obținerea unor rezultate utile scade constant.
Un singur model poate fi folosit în scopuri pe care creatorii săi nu le-au anticipat: pentru analizarea dosarelor medicale, identificarea vulnerabilităților informatice sau raționamente privind proiectarea armelor.
Controalele asupra lanțului de aprovizionare pot încetini dezvoltarea modelelor de ultimă generație, pot crește costurile și pot facilita monitorizarea activității dezvoltatorilor.
Ele nu răspund însă cu ușurință întrebării centrale a unui regim de neproliferare: cine folosește o anumită capacitate și în ce scop.
Problema verificării
Această dificultate s-ar regăsi în orice posibil tratat privind IA. Un acord între Statele Unite și China privind standardele de dezvoltare și testare a inteligenței artificiale ar avea nevoie, aproape sigur, de un mecanism credibil prin care să fie verificată respectarea prevederilor.
Pentru ca un asemenea mecanism să funcționeze, cele două părți ar trebui să cadă de acord asupra a ceea ce trebuie monitorizat.
În domeniul nuclear, obiectele controlului sunt relativ clare: rachete, lansatoare, bombardiere și focoase. În plus, acordurile de control al armamentelor au avut nevoie de ani pentru a ajunge la forma actuală.
O verificare completă a respectării unui acord privind IA ar putea necesita măsuri de transparență pe care guvernele le-ar considera excesiv de intruzive.
În cazul armelor nucleare, guvernele cunosc exact activitățile întreprinderilor care operează instalațiile relevante și pot răspunde în numele acestora. Situația este diferită în cazul laboratoarelor de IA, care sunt în mare parte entități private și care se dezvoltă într-un ritm foarte rapid.
Cine controlează tehnologia
Există o altă diferență fundamentală: cine deține controlul asupra tehnologiei. Bomba atomică a fost dezvoltată sub controlul și supravegherea guvernului. Construirea și menținerea unui arsenal nuclear presupun coordonare la nivel de stat și instituții stabile, inclusiv o armată organizată și un complex științific specializat.
Fiecare guvern care a construit un program nuclear sau a încercat să obțină arme nucleare a trebuit să își dezvolte instituțiile statului necesare acestui scop. IA este, în multe privințe, opusul acestui model.
Tehnologia a fost dezvoltată de cercetători, oameni de știință, fondatori de companii și dezvoltatori comerciali independenți. Ritmul în care aceștia avansează a depășit până acum capacitatea guvernelor de a construi sisteme de reglementare comparabile.
Catastrofa rămâne, deocamdată, teoretică
Diferența poate cea mai importantă dintre armele nucleare și IA este modul în care fiecare tehnologie și-a demonstrat potențialul distructiv. Armele nucleare au fost prezentate lumii printr-o demonstrație violentă și concretă: bombardamentele de la Hiroshima și Nagasaki din august 1945.
Ordinea nucleară s-a dezvoltat pornind de la o demonstrație directă a capacității tehnologiei de a produce distrugeri masive. Sutele de teste nucleare efectuate ulterior au confirmat și mai mult potențialul distructiv al acestor arme.
Indiferent de controversele privind politica nucleară, efectele unei explozii nucleare de amploare nu au fost niciodată o chestiune pur teoretică.
IA nu a avut un moment echivalent. Incidentul Hugging Face din această vară, în care modele avansate au depășit constrângerile impuse de software și au pătruns în sisteme externe, inclusiv în infrastructura companiei de IA Hugging Face, a provocat noi avertismente privind siguranța și supravegherea inteligenței artificiale.
Consecințele incidentului au rămas însă limitate, iar dezbaterea privind semnificația sa pentru guvernanța IA s-a desfășurat în mare măsură în rândul specialiștilor.
Scenariile cu adevărat catastrofale asociate IA – de la agenți patogeni modificați genetic și defecțiuni în cascadă ale infrastructurii până la pierderea controlului uman asupra unor sisteme superinteligente nealiniate și chiar dispariția umanității – rămân scenarii teoretice și sunt contestate în spațiul public.
În lipsa unui eveniment care să demonstreze fără echivoc capacitatea IA de a provoca distrugeri de proporții, factorii de decizie care doresc să reglementeze tehnologia trebuie să acționeze fără energia politică și capitalul care au contribuit la construirea ordinii nucleare.
Efectele negative ale IA care generează deja dezbateri politice – impactul chatbot-urilor asupra tinerilor, pierderea locurilor de muncă și costurile locale asociate centrelor de date – au dus la legi, procese și reacții politice.
Aceste probleme sunt însă diferite de riscurile catastrofale care stau la baza comparației dintre IA și arma nucleară. Chiar și în cazul armelor nucleare, diminuarea amintirilor despre Hiroshima și Nagasaki și dispariția treptată a supraviețuitorilor acelor atacuri ar putea contribui la apariția unei noi forme de complacere.
Chiar dacă o catastrofă generată de IA s-ar produce, așa cum avertizează unii cercetători din laboratoarele de avangardă, este posibil ca ea să nu conducă automat la adoptarea măsurilor politice potrivite.
Criza rachetelor din Cuba a contribuit la impulsionarea controlului armamentelor deoarece atât Washingtonul, cât și Moscova au înțeles că ajunseseră foarte aproape de un conflict nuclear.
În cazul IA, lucrurile ar putea fi mai greu de interpretat. Un model care ocolește măsurile de siguranță și provoacă un atac cibernetic major, soldat cu pierderi de vieți omenești sau de proprietăți, ar putea fi identificat relativ clar drept cauză.
Dar un model de IA ar putea contribui și la alte tipuri de catastrofe fără să fie singurul factor responsabil.
O armă biologică, un colaps al pieței financiare sau o pană de energie ar putea avea legătură cu utilizarea abuzivă a IA, dar ar fi dificil de stabilit cu certitudine cât de mult a contribuit tehnologia la rezultatul final.
Lanțurile cauzale complexe ar permite diferitelor părți implicate să își transfere reciproc responsabilitatea și ar putea reduce presiunea publică pentru adoptarea unor reguli mai stricte.
La marginea unui nou sistem de guvernanță
Dacă imitarea accentului pus de ordinea nucleară pe controlul resurselor materiale nu este suficientă pentru IA, atunci reglementarea trebuie să urmărească și modul în care sunt construite modelele și felul în care acestea sunt utilizate.
O direcție ar fi monitorizarea testelor efectuate de dezvoltatori înainte de implementarea modelelor, a rezultatelor acestor teste și a persoanelor care, din afara companiei, au dreptul să verifice procesul de antrenare și rezultatele obținute.
Un alt element ar trebui să fie reglementarea aplicațiilor IA, nu doar a modelelor și infrastructurii. Deciziile privind siguranța nu pot fi luate exclusiv în raport cu sisteme de uz general. În domeniile în care utilizarea abuzivă poate produce consecințe grave, ar putea fi necesare reguli specifice.
Unele priorități sunt deja evidente. Majoritatea dezvoltatorilor de vârf sunt de acord că utilizarea IA în biologia sintetică și în operațiuni cibernetice ofensive necesită măsuri de protecție deosebit de stricte.
Problema construirii unui sistem de guvernanță durabil este, la fel ca în perioada Războiului Rece, mai degrabă politică decât tehnică.
În Statele Unite, administrația Trump s-a opus unor noi reglementări și măsuri de supraveghere în domeniul IA, susținând că acestea ar putea încetini inovarea și ar putea avantaja China.
La începutul acestei luni, președintele Donald Trump a scris pe rețelele sociale că „Singurul control sau «parapet» de care are nevoie IA este un PREȘEDINTE PUTERNIC ȘI INTELIGENT (cu un IQ ridicat!)”.
În același timp, această poziție favorabilă dereglementării a coexistat cu intervenții executive punctuale. În iunie, Casa Albă a folosit măsuri de control al exporturilor pentru a limita accesul străin la modelele Fable 5 și Mythos 5 ale Anthropic, înainte ca restricțiile să fie retrase la sfârșitul lunii.
Administrația a exercitat, de asemenea, presiuni asupra OpenAI pentru ca lansarea modelului GPT-5.6 să fie limitată la actori aprobați de guvern.
O asemenea abordare federală fragmentată nu oferă predictibilitate nici companiilor care dezvoltă IA, care au nevoie de reguli stabile pentru a-și planifica investițiile și lansările, și nici publicului, care are nevoie de garanții pe termen lung în locul unor intervenții de la caz la caz.
Ce instrumente are Washingtonul
Guvernul federal dispune de mai multe instrumente prin care ar putea construi un sistem mai stabil de reglementare a IA. Pe lângă controalele asupra exporturilor, autoritățile pot utiliza Legea privind producția de apărare pentru a solicita companiilor să furnizeze informații sensibile.
Guvernul federal poate utiliza și puterea sa de cumpărare pentru a condiționa achizițiile agențiilor de informațiile pe care dezvoltatorii le pun la dispoziție și de supunerea acestora unor evaluări externe.
Ceea ce lipsește la Washington este însă un cadru durabil care să stabilească modul în care aceste instrumente trebuie utilizate și autoritatea necesară pentru aplicarea lor.
Instrumentele folosite în prezent – licențele de export și presiunile informale asupra anumitor companii – sunt în mare parte improvizate și se află sub controlul executivului.
Asta înseamnă că pot fi modificate sau abandonate de administrațiile viitoare. După cel de-al Doilea Război Mondial, Statele Unite au trecut prin dispute politice privind întrebarea dacă armele nucleare ar trebui să se afle sub control militar sau civil.
Disputa s-a încheiat cu plasarea armelor sub custodie militară, după o perioadă scurtă de control civil. Din acel proces au rezultat elemente pe care guvernanța IA încă nu le are: legi clare, responsabilități federale bine definite și reguli stabile privind supravegherea internă.
Reglementarea americană rămâne fragmentată
Progresele în alte domenii ale reglementării IA în Statele Unite au fost, de asemenea, fragmentare. Legislatorii de la Washington au introdus proiecte de lege privind anumite aspecte ale riscurilor asociate tehnologiei, inclusiv restricții de vârstă pentru chatbot-uri și un „kill switch” destinat modelelor considerate periculoase.
Aceste inițiative trebuie însă să parcurgă întregul proces legislativ din Congres. La nivelul statelor, California, Illinois și New York au încercat să reglementeze companiile de IA de vârf prin cerințe privind raportarea incidentelor, transparența și auditarea.
Aceste măsuri acoperă o parte din golurile existente, însă legile respective nu ar urma să devină obligatorii până în 2027 sau 2028 și sunt limitate de jurisdicția statelor și de excepțiile favorabile industriei.
Niciun proiect de lege nu a propus până acum un sistem de supraveghere cu autoritatea și amploarea necesare pentru reglementarea unor industrii critice din perspectiva siguranței, precum aviația sau energia nucleară.
Congresul ar trebui să creeze un asemenea mecanism pentru ca factorii de decizie să poată reglementa IA într-un mod coerent și durabil.
Lecțiile trecutului și necunoscutul
Dacă factorii de decizie vor să construiască un sistem funcțional de guvernanță a inteligenței artificiale, trebuie atât să învețe din trecut, cât și să creeze soluții pentru probleme care nu au precedent.
Cei care au construit bomba atomică au fost nevoiți să imagineze un cadru pentru ceea ce putea deveni o „armă absolută”, fără să aibă la dispoziție prea multe modele anterioare.
Au pornit de la tehnologia pe care încercau să o controleze și de la consecințele pe care aceasta le putea produce, fiind adesea motivați tocmai de teama acestor consecințe.
În cazul IA, marile companii tehnologice tind să pornească de la instituțiile și mecanismele existente și să caute apoi modalități de adaptare a tehnologiei la acestea. Această abordare riscă să ascundă atât slăbiciunile și fragilitatea instituțiilor respective, cât și caracteristicile care fac inteligența artificială atât de diferită.
Summitul din această lună dintre Donald Trump și liderul chinez Xi Jinping va reprezenta un test pentru capacitatea celor două mari puteri din domeniul IA de a identifica un teren comun pentru cooperare.
Siguranța IA se află printre posibilele subiecte ale discuțiilor. Indiferent de rezultatul summitului, însă, cea mai urgentă parte a efortului se desfășoară pe plan intern.
Washingtonul nu știe încă exact care vor fi capacitățile companiilor americane de IA în lunile următoare. Căutarea unui sistem internațional de control înainte de instituirea unei supravegheri interne solide ar însemna abordarea unor întrebări importante în ordinea greșită.
Până când Congresul nu va clarifica cine supraveghează domeniul IA, ce informații trebuie să furnizeze companiile și ce atribuții au autoritățile de reglementare, politica americană privind gestionarea inteligenței artificiale va rămâne fragmentată și dependentă de intervenții punctuale.
Iar în cea mai importantă paralelă dintre inteligența artificială și bomba atomică există, poate, o singură asemănare incontestabilă: marja de eroare este foarte mică.
Editor : C.A.
About the Author
