Inteligența artificială este integrată tot mai rapid în armatele lumii, de la drone și supraveghere până la identificarea țintelor și sprijinirea deciziilor militare. Experții avertizează însă că aceeași tehnologie care poate oferi un avantaj strategic ar putea accelera conflictele, alimenta dezinformarea sau chiar crește riscul unei escaladări nucleare, arată The Independent într-o analiză.
La începutul acestei luni, un cercetător de la Anthropic a lansat un avertisment extrem: există o probabilitate de 10% ca inteligența artificială să distrugă umanitatea. Estimarea a fost ulterior contestată de cercetători care consideră că nu există o analiză suficient de solidă pentru a susține o asemenea cifră.
Președintele Donald Trump și-a exprimat, la rândul său, în termeni tranșanți viziunea asupra importanței inteligenței artificiale. Într-o postare pe Truth Social, el a afirmat: „Cine câștigă în domeniul IA, câștigă totul!”
Deși nu se referea în mod specific la război, Trump a susținut că Statele Unite trebuie să rămână în fruntea dezvoltării acestei tehnologii, despre care a vorbit inclusiv în termenii unei viitoare „superinteligențe”.
În timp ce experții avertizează de ani de zile asupra riscurilor asociate inteligenței artificiale, dezvoltarea accelerată a tehnologiei ridică o întrebare tot mai importantă: ce se întâmplă atunci când sistemele de IA ajung să fie integrate în structurile militare?
„Inteligența artificială este integrată în forțele armate din întreaga lume într-un ritm din ce în ce mai rapid, întrucât multe guverne o consideră un factor decisiv pentru competitivitatea lor militară”, a declarat Georgia Cole, cercetătoare în cadrul Programului de Securitate Internațională al Chatham House, pentru The Independent.
Potrivit acesteia, tehnologia este utilizată într-o gamă tot mai largă de domenii militare: monitorizarea câmpului de luptă, instruire, supraveghere, recunoaștere, identificarea țintelor și dezvoltarea vehiculelor militare fără pilot.
Drone autonome și identificarea țintelor
Există deja exemple în care sistemele autonome au fost folosite în conflicte. Rusia a utilizat o dronă complet autonomă despre care s-a relatat că a ucis trei civili ucraineni.
În 2024, au apărut, de asemenea, informații potrivit cărora armata israeliană ar fi folosit în Gaza un sistem bazat pe inteligență artificială numit „Lavender”, în urma atacurilor Hamas din 7 octombrie.
Forțele de Apărare ale Israelului au negat că ar utiliza IA pentru a genera ținte militare confirmate. Într-o declarație pentru The Guardian, IDF a precizat însă că „Lavender” a fost utilizat pentru corelarea unor surse de informații și pentru producerea unor informații actualizate despre agenți militari ai organizațiilor teroriste.
IDF a mai susținut că sistemele informatice reprezintă instrumente pentru analiști și că decizia privind identificarea țintelor nu este luată de un sistem de inteligență artificială.
Între timp, utilizarea modelelor de IA de către actori implicați în conflicte a devenit o preocupare distinctă.
Potrivit unui raport de informații privind amenințările publicat de Anthropic, utilizatori din Yemen, în zone controlate de rebelii Houthi, au încercat să folosească Claude pentru a obține instrucțiuni legate de rachete balistice. În același raport sunt descrise și tentative ale unor hackeri ruși de a utiliza tehnologia în operațiuni împotriva unor grupuri din Ucraina.
Riscul unui conflict nuclear
Cele mai grave scenarii apar atunci când IA este introdusă în procesul decizional militar și poate influența reacțiile la situații de criză.
Mai multe studii au analizat comportamentul modelelor de inteligență artificială în simulări de război. Un studiu realizat de King’s College London, în februarie, a constatat că modelele testate au ales opțiuni care implicau semnale nucleare în 95% dintre crizele simulate.
Un alt studiu, realizat de Universitatea Stanford în 2024, a analizat, de asemenea, riscurile asociate utilizării IA în scenarii de conflict.
Georgia Cole avertizează că un sistem de inteligență artificială ar putea interpreta greșit informațiile disponibile și ar putea contribui la o decizie de escaladare.
„Ne-am putea imagina o situație în care o IA percepe în mod eronat semne ale unui atac nuclear, determinând un lider să autorizeze o ripostă nucleară împotriva unui atac imaginar”, spune cercetătoarea.
O asemenea situație ar putea evolua extrem de rapid. „Țara vizată ar putea riposta înainte de a-și da seama că nu este atacată. Avem deja exemple din Războiul Rece de situații în care s-a evitat la limită un conflict din cauza erorilor sau a inexactităților din sistemele de avertizare timpurie”, explică ea.
Problema ar fi amplificată de viteza cu care operează sistemele automatizate. „IA reduce atât transparența acestor sisteme, cât și timpul disponibil pentru ca factorii de decizie să reacționeze”, afirmă Cole.
„Roboții ucigași” și armele biologice
Scenariile extreme nu se limitează la armele nucleare. Un alt risc discutat de experți este folosirea IA pentru proiectarea unor arme biologice sau a unor agenți patogeni extrem de periculoși.
Anthropic a avertizat că „utilizarea abuzivă în scopuri biologice reprezintă unul dintre cele mai grave riscuri ale modelelor de IA de ultimă generație”.
Compania nu a precizat ce instituții sau țări ar fi implicate în astfel de tentative, explicând că nu poate determina cu certitudine intenția din spatele întrebărilor adresate modelelor sale.
Yasir Atalan, director adjunct și cercetător în domeniul datelor la Futures Lab din cadrul Center for Strategic and International Studies (CSIS), atrage însă atenția asupra unui alt aspect: influența pe care recomandările generate de IA o pot avea asupra oamenilor care iau decizii în timpul unui război.
Echipa sa lucrează la un studiu în care ofiștilor militari le-au fost prezentate comportamente ale unor modele de IA. Unii participanți au primit recomandări care favorizau escaladarea, iar alții au primit opțiuni care nu implicau escaladarea.
„Ne-am dat seama că acest lucru a schimbat efectiv modul în care oamenii iau decizii”, a spus Atalan. Potrivit acestuia, atunci când oamenii primesc de la un model o recomandare care favorizează escaladarea, aceasta poate influența decizia finală.
În același timp, Atalan contestă estimarea potrivit căreia IA ar avea o probabilitate de 10% să distrugă omenirea, considerând-o o „pistă falsă” care nu se bazează pe o analiză credibilă.
Printre scenariile extreme se numără și situația în care „roboții ucigași” ar deveni autonomi și s-ar întoarce împotriva oamenilor. Atalan consideră însă că asemenea scenarii apocaliptice trebuie analizate cu prudență.
Dezinformarea, o armă deja disponibilă
Unele dintre riscurile asociate IA nu mai țin însă de viitor. Ele sunt deja vizibile în spațiul informațional. Actorii statali și nestatali pot folosi inteligența artificială pentru a genera cantități mari de conținut fals, pentru a crea imagini și videoclipuri fabricate sau pentru a administra conturi false.
Yasir Atalan avertizează că modelele de IA pot fi implicate în campanii de dezinformare și manipulare a informațiilor.
Videoclipurile cu Lego generate cu ajutorul inteligenței artificiale au fost, potrivit acestuia, folosite ca parte a strategiei de comunicare și război psihologic a Iranului.
„Nu ne trece prin minte că ar trebui să evaluăm modelele de IA pentru a vedea dacă vor accepta o decizie de a se implica într-o campanie de dezinformare”, spune Atalan.
El atrage atenția și asupra riscului ca IA să îi determine pe oameni să participe la astfel de operațiuni. „Acest lucru se întâmplă deja în spațiul digital, unde se creează conturi false.”
Infrastructura critică, următoarea țintă
Un alt scenariu analizat de experți este utilizarea agenților de inteligență artificială pentru atacarea infrastructurii critice.
Georgia Cole avertizează asupra posibilității ca astfel de sisteme să fie folosite pentru atacuri informatice de amploare împotriva infrastructurii esențiale, cu potențialul de a provoca victime.
În același timp, IA ar putea fi folosită pentru dezvoltarea unor arme destinate războiului asimetric.
Potrivit cercetătoarei, declarațiile recente ale dezvoltatorilor de inteligență artificială sugerează că unele dintre aceste capabilități ar putea deveni disponibile într-un interval relativ apropiat.
Atalan consideră, la rândul său, că există și riscuri asociate cu modul în care modelele americane de IA ar putea fi atacate sau manipulate de actori externi, inclusiv prin furt de date sau prin tehnici menite să determine un sistem să divulge informații.
Problema nu este doar IA, ci lipsa controlului
În ciuda scenariilor extreme, cei doi experți subliniază că problema fundamentală nu este existența inteligenței artificiale, ci modul în care aceasta este implementată și controlată.
„Cele mai grave consecințe apar atunci când există modele necontrolate care se integrează în mod semnificativ în sistemele de comandă și control”, spune Atalan.
Georgia Cole consideră că sunt necesare măsuri de protecție și evaluări riguroase pentru a determina unde poate îmbunătăți IA procesul decizional militar și unde poate produce efectul opus.
„Problema nu este neapărat utilizarea IA în sine, ci absența măsurilor de protecție sau a transparenței cu privire la modul în care este folosită IA, precum și lipsa unei analize serioase a domeniilor în care IA îmbunătățește cu adevărat procesul de luare a deciziilor militare, față de cele în care este dăunătoare”, afirmă cercetătoarea.
Reglementarea armelor autonome, în urmă
La nivel internațional, ONU găzduiește discuții privind reglementarea armelor autonome letale. Însă adoptarea unui tratat obligatoriu este considerată dificilă, iar mai multe puteri militare se opun unor restricții juridice obligatorii.
În același timp, integrarea inteligenței artificiale în domeniul militar continuă.
„În același timp, integrarea se intensifică și este puțin probabil ca țările să renunțe voluntar (sau să aibă capacitatea de a o face) la automatizarea forțelor lor armate”, spune Cole.
În lipsa unor reguli comune, următorii ani ar putea aduce o autonomie mai mare a sistemelor militare, un proces decizional tot mai rapid și o prezență mai mare a inteligenței artificiale în conflictele armate.
Iar întrebarea nu mai este doar cine va dezvolta cea mai performantă inteligență artificială, ci cât de mult control vor păstra oamenii atunci când aceste sisteme vor ajunge să joace un rol direct în război.
Editor : C.A.
About the Author
