China se pregătește pentru riscul ca sisteme avansate de inteligență artificială să scape de sub controlul oamenilor, în contextul în care autoritățile de la Beijing au inclus deja astfel de scenarii în propriile cadre de siguranță și au introdus reguli pentru limitarea autonomiei agenților AI. Oficialii chinezi avertizează că dezvoltarea rapidă a tehnologiei poate genera riscuri grave, iar președintele Xi Jinping a transmis că inteligența artificială trebuie să rămână întotdeauna sub control uman, relatează Reuters.
Statele Unite și China sunt cele două mari forțe care impulsionează dezvoltarea inteligenței artificiale de frontieră și adoptarea acestei tehnologii la nivel mondial. Cele două superputeri au intrat tot mai des în conflict din cauza politicilor și practicilor din industria AI ale celeilalte părți, iar aceste probleme urmează să ocupe un loc important în discuțiile bilaterale programate pentru sfârșitul acestei luni.
În ciuda cursei pentru dezvoltarea unor sisteme AI din ce în ce mai performante, cadrul de reglementare și declarațiile publice de la Beijing arată că autoritățile chineze consideră suficient de serios riscul ca inteligența artificială avansată să scape de sub supravegherea efectivă a oamenilor încât să elaboreze măsuri pentru un asemenea scenariu.
China vede riscuri în principalele modele americane
Ministrul chinez al Securității de Stat, Chen Yixin, a scris duminică, într-o publicație guvernamentală, că modelele americane avansate, precum Mythos al Anthropic și GPT-5.5-Cyber al OpenAI, ar putea reprezenta riscuri serioase pentru infrastructura informațională critică a Chinei și a cerut consolidarea amplă a securității în domeniul inteligenței artificiale.
Dezvoltatorii chinezi de inteligență artificială au promovat modelele cu ponderi deschise („open-weight”), argumentând, printre altele, că echipele de securitate cibernetică le pot inspecta, modifica și utiliza în activități defensive.
Platforma de modele Hugging Face a declarat că a folosit GLM-5.2, un model open-weight dezvoltat de compania chineză Z.AI, pentru a analiza o intruziune produsă în luna iulie de agenți OpenAI care scăpaseră de sub control, după ce modelele americane cu acces mai strict s-au dovedit mai puțin utile pentru analiza criminalistică digitală.
Experții atrag însă atenția și asupra riscurilor prezentate de modelele open-weight, care pot fi modificate și redistribuite cu foarte puțină supraveghere.
Luna trecută, modelul Kimi K3 al companiei Moonshot a reușit să ocolească un mediu de testare securizat („sandbox”) al Institutului britanic pentru Siguranța Inteligenței Artificiale. Incidentul a evidențiat riscul ca modelele AI chinezești, asemenea celor americane, să poată evita mecanismele concepute pentru a le limita accesul și acțiunile.
Autoritățile de reglementare au avertizat asupra riscului „pierderii controlului”
China a inclus pentru prima dată în mod explicit un scenariu privind o posibilă pierdere a controlului asupra AI într-un cadru de securitate publicat în septembrie 2024, sub coordonarea Administrației Spațiului Cibernetic din China (CAC).
Documentul arăta că nu poate fi exclusă posibilitatea ca, în viitor, inteligența artificială să obțină în mod autonom resurse externe, să se autoreproducă, să dezvolte conștiință de sine și să încerce să dobândească putere în lumea exterioară, creând astfel riscul unei competiții cu oamenii pentru control.
CAC a publicat o versiune extinsă a documentului în septembrie 2025. Noul cadru a formulat scenariul și mai clar, avertizând că inteligența artificială ar putea înregistra un „salt” brusc și neașteptat de mare al nivelului de inteligență, înainte de a dobândi resurse, de a se autoreproduce și de a încerca să obțină putere.
Documentul a introdus și principiul de guvernanță privind „utilizarea de încredere și prevenirea pierderii controlului”.
O interpretare ulterioară realizată de experți și publicată pe site-ul autorității chineze de reglementare a spațiului cibernetic preciza că noul principiu urmărește prevenirea riscurilor generate de pierderea controlului, care ar putea amenința supraviețuirea și dezvoltarea omenirii, făcând referire inclusiv la un posibil scenariu în care „AI scapă de sub control”.
Xi Jinping pune controlul uman în centrul dezvoltării AI
Îngrijorările au ajuns între timp și în mesajele politice de la cel mai înalt nivel din China.
La Conferința Mondială privind Inteligența Artificială, desfășurată în iulie la Shanghai, președintele chinez Xi Jinping a declarat că autoritățile trebuie să acorde o atenție deosebită atât riscurilor intrinseci ale inteligenței artificiale, cât și celor generate de utilizarea acesteia.
El a afirmat că inteligența artificială trebuie să „rămână întotdeauna sub controlul oamenilor”.
Sun Xiaobo, înalt oficial al Ministerului chinez de Externe responsabil de problemele legate de inteligența artificială, a declarat luna trecută, în cadrul unei reuniuni a Organizației Națiunilor Unite, că Beijingul accelerează cercetările privind elaborarea unei legislații mai ample în domeniul AI.
Sun Lei, adjunctul reprezentantului permanent al Chinei la ONU, a cerut luna aceasta guvernelor să adopte o abordare prudentă în privința utilizării inteligenței artificiale în domeniul militar, pentru a evita erorile de calcul strategic și o cursă a înarmării.
China a început, între timp, să transforme aceste principii în reguli mai concrete pentru agenții AI, sisteme care pot acționa mult mai autonom și pot îndeplini sarcini mai complexe decât un chatbot obișnuit.
În luna mai, autoritatea chineză de reglementare a spațiului cibernetic a emis, împreună cu alte instituții, orientări care vizează în mod specific aceste sisteme.
Regulile le cer dezvoltatorilor să își îmbunătățească capacitatea de a detecta, opri și bloca comportamentele necorespunzătoare ale agenților AI, precum și de a restabili funcționarea sistemelor după astfel de incidente.
Documentul identifică în mod explicit drept riscuri de securitate „otrăvirea” datelor, manipularea algoritmilor, vulnerabilitățile sistemelor și „pierderea controlului operațional”. De asemenea, prevede că utilizatorii trebuie să păstreze autoritatea finală de decizie asupra hotărârilor luate în mod autonom de un agent AI.
China nu a propus introducerea unor organisme independente de monitorizare în interiorul companiilor de inteligență artificială, după modelul susținut de Anthropic. Standardele sale permit însă dezvoltatorilor să solicite evaluări de siguranță realizate de terți și prevăd posibilitatea ca organisme externe de evaluare și cercetători în domeniul securității să testeze și să auditeze modelele deschise.
Editor : Ș.A.
About the Author
