Cercetătorii militari chinezi au folosit rezultatele unor modele de inteligență artificială (IA) de vârf din SUA, dezvoltate de OpenAI și Anthropic, pentru a antrena sistemele naționale de IA în vederea îmbunătățirii capacităților de apărare ale Chinei, potrivit unei analize realizate de Reuters asupra a peste 80 de lucrări academice și brevete chinezești.
Aceste descoperiri, care nu au fost raportate până acum, oferă o perspectivă rară asupra modului în care instituțiile militare și cele legate de securitate din China utilizează modele americane de IA de ultimă generație ca o scurtătură pentru a-și dezvolta propriile sisteme specializate, în ciuda eforturilor Washingtonului de a restricționa accesul Beijingului la cipuri avansate și la alte tehnologii strategice.
Documentele arată utilizarea pe scară largă a unei tehnici cunoscute sub numele de „distilarea modelelor”, în cadrul căreia rezultatele obținute de la un sistem puternic de IA sunt folosite pentru a antrena modele mai mici și specializate, care pot fi implementate la nivel local fără cerințele enorme de calcul necesare pentru a construi de la zero sisteme de IA de ultimă generație.
Analiza realizată de Reuters, care a inclus cercetări compilate de Fundația Jamestown din Washington și partajate în exclusivitate cu agenția de știri, a arătat că distilarea este utilizată pe scară largă de cercetătorii afiliați Armatei Populare de Eliberare și altor instituții militare.
Documentele sugerează că instituțiile chineze din domeniul apărării consideră modelele de IA de vârf ale SUA atât o sursă de cunoștințe tehnice, cât și o modalitate de a reduce decalajul față de rivalii americani.
Disputa se concentrează pe extragerea neautorizată, nu pe distilare în sine, o practică larg utilizată în industrie.
Problema a devenit un punct fierbinte major în perspectiva discuțiilor dintre SUA și China privind guvernanța și siguranța IA. Oficialii americani au acuzat unele entități chineze că utilizează distilarea pentru a extrage capacități din modelele americane de IA, ceea ce ar putea submina controalele la export și ar încălca drepturile de proprietate intelectuală.
China a respins acuzațiile, afirmând că Washingtonul urmărește un „hegemonism” în domeniul IA, susținând totodată că firmele americane s-au angajat în practici similare.
De asemenea, dezvoltatorii chinezi au contestat afirmațiile potrivit cărora progresele lor în domeniul IA se bazează pe modele străine. Start-up-ul de IA Moonshot a negat săptămâna trecută acuzațiile administrației Trump conform cărora modelul său Kimi K3 ar fi fost construit folosind distilarea, afirmând că acesta se bazează pe inovații proprii.
Sunny Cheung, un cercetător al Jamestown care a analizat peste 60 dintre aceste lucrări, a declarat că oamenii de știință militari chinezi înregistrează sistematic etapele de raționament ale modelelor occidentale pentru a le adapta în scopuri de supraveghere, război cibernetic și luare de decizii tactice.
„A învăța un model răspunsul corect este un lucru, dar a-l învăța raționamentul din spatele răspunsului este mult mai dificil”, a spus Cheung.
„Aceste lucrări arată că cercetătorii chinezi cu legături militare încearcă să transfere acel raționament costisitor și proprietar din modelele occidentale în sisteme mai mici pe care le pot controla și implementa la nivel local.”
Reuters a verificat literatura academică și a identificat încă două duzini de studii de caz legate de sectorul militar.
Un articol publicat anul trecut de cercetătorii din Unitatea 96941 a Armatei Populare de Eliberare (PLA), o unitate de informații militare și război cibernetic din Beijing, descria utilizarea modelului GPT-3.5 al OpenAI pentru procesarea codului sursă militar sensibil.
Cercetătorii au afirmat că modelele terțe nu erau adecvate pentru gestionarea informațiilor clasificate. Pentru a depăși această limitare, au folosit GPT-3.5 pentru a sintetiza codul software și au antrenat un model național pe baza acestor sinteze, astfel încât acesta să funcționeze în întregime în cadrul rețelelor militare chineze.
Casa Albă, Pentagonul, Ministerul Afacerilor Externe al Chinei, PLA și OpenAI nu au răspuns la solicitările de comentarii.
Utilizare pe scară largă, de la monitorizare la domeniul militar
Cercetătorii chinezi au folosit distilarea în scopuri variind de la monitorizarea conținutului până la implementări militare, a arătat analiza articolelor realizată de Reuters și Jamestown.
La Universitatea de Nord a Chinei, care are legături strânse cu industria de armament a țării, cercetătorii au folosit modelul Claude 3 Haiku al companiei Anthropic pentru a genera date sintetice de antrenare pentru un model de clasificare a textului destinat monitorizării rețelelor sociale și moderării conținutului.
Anthropic a declarat că nu oferă acces comercial la Claude în China sau firmelor controlate de Beijing și că utilizează sisteme de monitorizare pentru a detecta încălcările politicilor.
Compania a adăugat că modelele distilate pot pierde măsurile de siguranță ale sistemelor originale, ceea ce ar putea permite transferul unor capacități sensibile către modele aflate în afara controlului său.
Un articol din 2024 al Universității Naționale de Tehnologie a Apărării din cadrul Armatei Populare de Eliberare (PLA) a descris utilizarea distilării pentru a reduce dimensiunea unui model de procesare a imaginilor în vederea implementării pe vehicule aeriene fără pilot, permițând dronelor să analizeze imagini video în direct și să sprijine deciziile de navigație și țintire în timp real, chiar și atunci când comunicațiile sunt întrerupte.
În mod similar, cercetătorii de la Academia Chineză de Științe Militare au utilizat distilarea pentru a rula un model de recunoaștere a țintelor pe echipamente tactice în cadrul unor operațiuni maritime simulate care au implicat drone, nave și submarine fără pilot, a arătat un studiu publicat la începutul acestui an.
Beneficii și limite
China a adoptat distilarea în încercarea de a concura cu SUA în domeniul IA de ultimă generație, în condițiile în care se confruntă cu constrângeri privind resursele de calcul avansate din cauza controalelor la export impuse de Washington asupra cipurilor de ultimă generație. Guvernele centrale și locale au promovat „reducerea dimensiunii modelelor” și calculul la margine (edge computing), direcționând subvenții și fonduri de cercetare către tehnologii care permit modelelor de IA să funcționeze pe drone, sateliți și alte dispozitive cu putere de procesare limitată.
Experții avertizează, totuși, că distilarea prezintă limitări semnificative.
Pe măsură ce modelele chineze de IA reduc decalajul față de omologii lor americani, cercetătorii militari examinează, de asemenea, distilarea ca pe un potențial risc de securitate.
În ianuarie, cercetătorii de la Universitatea de Inginerie a Armatei au publicat un articol privind amenințarea reprezentată de „distilarea fără date”, o metodă de inginerie inversă a capacităților unui model fără acces direct la parametrii săi de bază.
Pentru a contracara această vulnerabilitate, ei au propus mecanisme de apărare concepute să mascheze informațiile logice ascunse expuse în rezultatele publice ale unui model.
De asemenea, modelele distilate moștenesc doar anumite capacități selectate și nu pot reproduce pe deplin inteligența extinsă a sistemelor de ultimă generație.
Trevor Koverko, cofondator al companiei de date pentru IA Sapien, a afirmat că modelele distilate rămân mai puțin performante decât modelele lor de referință.
„Este mai bine înțeles ca un transfer al unor capacități selectate într-un sistem mai ieftin, controlat local, și nu ca o obținere a independenței față de IA de ultimă generație.”
Editor : B.E.
About the Author
