Liderii unor companii americane de inteligență artificială cer guvernelor să intervină pentru a ține sub control dezvoltarea modelelor tot mai puternice. În timp ce în SUA se discută despre evaluări independente, reguli și cooperare internațională, China are deja de câțiva ani un sistem complex de reglementare a IA, care include înregistrarea algoritmilor, evaluări de securitate, standarde tehnice și reguli pentru conținutul generat de inteligența artificială. Beijingul a publicat în septembrie și cea de-a treia versiune a cadrului său de guvernanță privind siguranța IA, care include riscurile asociate agenților autonomi și posibilitatea pierderii controlului asupra sistemelor avansate, potrivit The Conversation.
Dario Amodei, directorul executiv al Anthropic, a cerut recent guvernelor să intervină pentru a încetini ritmul dezvoltării modelelor de IA de frontieră. Propunerea sa pornește de la introducerea unor evaluatori independenți în companiile de profil și ajunge până la reglementări și cooperare între guvernele statelor democratice.
Amodei a pledat, de asemenea, pentru acorduri internaționale cu China privind testarea sistemelor de IA, utilizările periculoase ale tehnologiei și ritmul dezvoltării acesteia.
Dezbaterea americană pornește însă de la premisa că un asemenea sistem de guvernanță trebuie încă construit. În cazul Chinei, o parte importantă a acestei infrastructuri există deja. Carnegie Endowment for International Peace descrie China drept una dintre țările care au construit în ultimii ani un sistem extins și în continuă evoluție de reglementare și testare a inteligenței artificiale.
Primele reguli: algoritmii de recomandare
Beijingul a început să reglementeze algoritmii înainte ca explozia serviciilor de IA generativă să schimbe radical industria.
Regulile privind serviciile de recomandare algoritmică se aplică tehnologiilor care selectează, clasifică, filtrează sau recomandă conținut utilizatorilor.
Companiile trebuie să analizeze modul în care funcționează algoritmii, să protejeze datele personale și să le ofere utilizatorilor anumite posibilități de control. Regulile includ, de asemenea, măsuri de protecție pentru angajați, consumatori, copii și persoane în vârstă.
Acest cadru a fost urmat de reguli privind „deep synthesis”, care au extins reglementarea la conținutul generat sau modificat artificial, inclusiv texte, imagini, materiale audio și video.
Companiilor li se cere să autentifice utilizatorii, să protejeze datele, să păstreze anumite înregistrări, să își evalueze sistemele și să identifice conținutul sintetic care ar putea fi confundat cu unul autentic.
Reguli pentru IA generativă
În 2023, China a introdus măsuri specifice pentru serviciile de inteligență artificială generativă oferite publicului.
Regulile vizează inclusiv datele utilizate pentru antrenarea modelelor, protecția informațiilor personale, drepturile de proprietate intelectuală și discriminarea. Sunt prevăzute, de asemenea, obligații privind transparența și acuratețea serviciilor.
Companiile trebuie să remedieze problemele identificate în produsele lor, iar serviciile sunt supuse unor evaluări de securitate pentru analizarea riscurilor și a conformității cu legislația chineză.
Dezvoltatorii anumitor algoritmi trebuie, de asemenea, să furnizeze informații autorităților prin sistemul de înregistrare a algoritmilor. Carnegie a descris acest mecanism drept o componentă importantă a arhitecturii de guvernanță a IA din China.
Aceste mecanisme nu sunt identice cu propunerea lui Amodei privind evaluatori independenți în interiorul companiilor, dar au unele funcții comparabile, în special în ceea ce privește evaluarea riscurilor și verificarea sistemelor.
Beijingul introduce reguli pentru sistemele autonome
Cel mai recent pas este reprezentat de „AI Safety Governance Framework 3.0”, publicat la 14 septembrie 2026 de Comitetul Național Tehnic 260 pentru Securitate Cibernetică, sub îndrumarea Administrației Cyberspace din China. Cadrul este a treia versiune, după cele din 2024 și 2025.
Documentul extinde analiza către sisteme capabile să îndeplinească sarcini cu un grad tot mai mare de autonomie.
Cadrul identifică riscuri asociate agenților de IA, inclusiv comportamente autonome nedorite, și include principiul menținerii controlului uman asupra sistemelor.
Documentul abordează și posibilitatea ca dezvoltarea modelelor și algoritmilor să accelereze prin învățare, optimizare și îmbunătățire autonomă, ridicând problema situațiilor în care evoluția tehnologică ar putea depăși capacitatea oamenilor de a o anticipa și controla.
Sunt prevăzute recomandări privind evaluarea continuă a siguranței, clasificarea riscurilor, măsurile tehnice de protecție și intervenția umană.
Este important însă că versiunea 3.0 este un cadru de guvernanță și orientare tehnică, nu o lege cu aplicabilitate directă și sancțiuni proprii. Analizele independente subliniază că documentul nu stabilește, prin el însuși, praguri obligatorii, penalități sau termene de conformare.
Riscurile „de frontieră”
Unele dintre riscurile abordate de Beijing sunt similare celor care provoacă acum îngrijorare în industria americană a IA.
Printre acestea se numără sistemele cu grad ridicat de autonomie, utilizarea abuzivă a IA în domenii cu potențial biologic, chimic sau nuclear și situațiile în care oamenii ar putea pierde controlul asupra unor sisteme avansate.
Cadrul chinez recomandă evaluări ale riscurilor pe parcursul ciclului de viață al sistemelor, măsuri de protecție adaptate nivelului de risc și mecanisme de intervenție în situații de urgență.
Carnegie Endowment a analizat separat necesitatea unor mecanisme de siguranță pentru IA de frontieră și a arătat că Statele Unite și China, în calitate de principalii dezvoltatori ai sistemelor avansate, vor avea un rol important în gestionarea acestor riscuri.
SUA aleg o abordare diferită
Existența unui sistem extins de reguli în China nu înseamnă automat că acesta poate fi preluat de Statele Unite.
Instituțiile, tradițiile juridice și prioritățile celor două țări sunt diferite. Unele dintre regulile chineze sunt legate și de controlul informațiilor și al conținutului online, ceea ce ridică probleme distincte în raport cu abordarea americană privind libertatea de exprimare.
Administrația Trump a favorizat o abordare mai puțin restrictivă față de IA, punând accent pe dezvoltarea industriei și pe limitarea unor reglementări mai stricte la nivelul statelor.
În același timp, dezbaterea din Statele Unite s-a mutat tot mai mult către problema responsabilității companiilor în cazul în care sistemele lor provoacă daune.
Cine răspunde când IA provoacă daune?
Una dintre întrebările centrale este dacă un model bazat în principal pe inițiativa privată poate funcționa fără un cadru juridic clar privind responsabilitatea pentru eventualele prejudicii.
În cazul unor incidente care implică sisteme de IA dezvoltate într-o țară, dar utilizate în altă parte, autoritățile locale pot ajunge să suporte costurile investigațiilor, ale securizării infrastructurii și ale remedierii efectelor.
Această problemă devine mai importantă pe măsură ce agenții de IA primesc acces la sisteme informatice, baze de date și servicii din lumea reală.
Într-o analiză recentă, experții Carnegie au susținut că Statele Unite și China ar trebui să dezvolte canale stabile de dialog privind siguranța IA, chiar dacă cele două țări rămân competitori în domeniul tehnologic.
Cursa pentru dezvoltarea unor sisteme de IA tot mai puternice este astfel însoțită de o altă competiție: cea pentru stabilirea regulilor care vor defini modul în care aceste tehnologii sunt testate, supravegheate și utilizate.
Editor : C.A.
About the Author
