Inteligența artificială ar putea facilita dezvoltarea unor arme biologice, inclusiv prin identificarea modificărilor genetice care fac agenții patogeni mai periculoși, avertizează experții. Mai multe cazuri recente, de la utilizarea chatboților în presupuse comploturi bioteroriste până la experimente desfășurate în laboratoare de cercetare, au ridicat semne de întrebare privind riscurile acestei tehnologii. Specialiștii subliniază însă că accesul la informații nu este suficient pentru producerea unor astfel de arme, care necesită cunoștințe avansate, echipamente specializate și materiale biologice greu de obținut, relatează The Guardian.
Instrumentele bazate pe inteligență artificială ar putea fi utilizate atât de persoane fără pregătire științifică, cât și de organizații sau state care dispun deja de laboratoare performante și cercetători specializați.
În primul caz, chatboții ar putea facilita accesul la cunoștințe tehnice, centralizarea informațiilor relevante și identificarea unor soluții la problemele întâmpinate în cercetare. Astfel de tentative s-ar concentra, cel mai probabil, asupra agenților patogeni și toxinelor deja existente.
Riscul considerat mai imediat de experți este însă utilizarea inteligenței artificiale de către organizații care dispun deja de resursele necesare pentru dezvoltarea armelor biologice.
Dr. Filippa Lentzos, specialistă în știință și securitate internațională la King’s College London, explică faptul că AI ar putea ajuta cercetătorii să identifice modificări genetice capabile să crească periculozitatea unor agenți patogeni.
„În acest caz, inteligența artificială nu elimină nevoia de expertiză, ci amplifică expertiza care există deja”, afirmă Lentzos.
Pe termen mai lung, specialiștii iau în calcul și riscul ca grupuri de cercetători foarte bine pregătiți să utilizeze inteligența artificială pentru a proiecta agenți patogeni sau toxine complet noi, rezistente la medicamente ori pentru care nu există antidoturi.
Riscurile asociate utilizării inteligenței artificiale pentru dezvoltarea armelor biologice au fost semnalate recent și de șeful serviciului britanic de informații MI5, Ken McCallum, care a avertizat că tehnologia ar putea facilita accesul teroriștilor la arme biologice sau chiar generarea unor agenți patogeni necunoscuți.
Cercetători au încercat să folosească un chatbot AI pentru experimente cu virusuri periculoase
Compania Anthropic a raportat în septembrie cinci cazuri în care cercetători din țări neprecizate au încercat să utilizeze chatbotul Claude pentru activități potențial periculoase, care implicau virusuri sau toxine.
Potrivit companiei, un semnal de alarmă a fost faptul că unii utilizatori au găsit modalități de a ocoli restricțiile sistemului după ce solicitările inițiale le-au fost blocate.
Într-unul dintre cazuri, cercetătorii ar fi utilizat chatbotul pentru a planifica experimente care presupuneau introducerea unor mutații într-un virus al gripei aviare înalt patogene, astfel încât acesta să se poată adapta și răspândi mai ușor la mamifere.
Astfel de activități ar putea indica tentative de a face agenții patogeni mai periculoși, însă experimente asemănătoare sunt desfășurate și în laboratoare legitime, pentru a anticipa riscurile unor viitoare pandemii și pentru a dezvolta vaccinuri și tratamente.
Un alt caz a fost descoperit anul trecut în India, unde poliția a investigat un presupus complot bioterorist în care un medic și alte persoane ar fi utilizat chatboți și instrumente de căutare bazate pe inteligență artificială pentru a obține informații despre producerea ricinei, o toxină mortală.
Anchetatorii au suspectat că persoanele implicate intenționau să folosească ustensile de bucătărie pentru obținerea substanței. Nu este clar însă dacă răspunsurile oferite de instrumentele AI au contribuit efectiv la presupusele tentative.
Experiment la MIT: ce informații au obținut studenții de la inteligența artificială
O serie de studii au evidențiat capacitatea unor sisteme AI de a furniza informații potențial periculoase privind agenții biologici.
În cadrul unui experiment desfășurat la Massachusetts Institute of Technology (MIT), unor studenți fără pregătire în domeniul științelor li s-a cerut să verifice dacă un chatbot i-ar putea ajuta să obțină informații pentru declanșarea unei pandemii.
În mai puțin de o oră, sistemele au identificat patru agenți patogeni cu potențial pandemic și au furnizat informații despre obținerea lor din ADN sintetic, precum și despre companii care ar putea să nu verifice suficient comenzile de material genetic.
Cercetătorii au subliniat însă că obținerea unor asemenea informații nu înseamnă că utilizatorii ar putea produce efectiv agenții patogeni.
Probleme similare au fost identificate și în cazul unor modele de inteligență artificială dezvoltate în China. Cercetătorii unei companii specializate în securitatea sistemelor AI au reușit să determine două modele Kimi să furnizeze informații despre fabricarea armelor biologice și comiterea unor asasinate, ocolind mecanismele de protecție.
Într-un alt experiment, dr. David Relman, cercetător la Universitatea Stanford, a descris modul în care un sistem AI a oferit explicații privind modificarea unui agent patogen pentru a-l face rezistent la tratament.
Un alt om de știință a relatat că un chatbot a furnizat informații despre posibilitatea dispersării unor agenți biologici periculoși din aer, cu ajutorul unui balon meteorologic.
Aceste exemple evidențiază dificultatea de a delimita informațiile științifice cu utilizări legitime de cele care ar putea fi exploatate în scopuri periculoase.
Primii viruși proiectați cu ajutorul AI ridică probleme de biosecuritate
În aprilie, oamenii de știință au anunțat crearea primilor viruși proiectați cu ajutorul inteligenței artificiale.
Este vorba despre virusuri care infectează exclusiv bacteriile, iar cercetarea ar putea contribui la dezvoltarea unor tratamente medicale noi.
Cu toate acestea, experții au avertizat că progresele ridică „probleme urgente de biosiguranță și biosecuritate”.
Inteligența artificială este utilizată tot mai mult și în cercetarea biologică. Într-un proiect separat, compania Anthropic a anunțat că agenți AI au identificat un sistem biologic necunoscut anterior, în urma analizării structurii unui virus care infectează bacteriile, o descoperire care ar putea contribui la progresul cercetărilor genetice.
Un alt exemplu al caracterului dual al cercetării biologice provine de la Laboratorul Național Los Alamos din Statele Unite.
În 2025, cercetătorii au antrenat un sistem AI pentru a anticipa modul în care neurotoxine extrem de puternice, provenite de la melci marini, interacționează cu celulele umane. Rezultatele ar putea contribui la dezvoltarea unor antidoturi.
Autoritățile americane au devenit însă îngrijorate după ce cercetători chinezi au utilizat rezultatele studiului pentru a dezvolta propriul instrument de proiectare a unor toxine noi.
Cercetătorii chinezi au susținut că activitatea lor urmărea exclusiv dezvoltarea de medicamente.
De ce inteligența artificială nu este suficientă pentru producerea armelor biologice
În ciuda progreselor tehnologice, specialiștii subliniază că dezvoltarea armelor biologice rămâne extrem de dificilă și periculoasă, în special pentru persoanele fără pregătire de specialitate.
„Informația reprezintă doar o parte a problemei”, explică Filippa Lentzos.
Potrivit acesteia, experiența practică, accesul la materiale biologice și echipamente specializate, validarea experimentală, producția la scară largă și metodele de dispersare continuă să reprezinte obstacole semnificative.
Sonia Ben Ouagrham-Gormley, directoare adjunctă a programului de apărare biologică de la Universitatea George Mason din Virginia, subliniază că experiența practică și cunoștințele care nu pot fi transmise prin simple instrucțiuni au avut un rol esențial în programele de arme biologice dezvoltate în trecut de state.
Profesorul Martin Pačesa, de la Universitatea din Zürich, consideră că accesul la materialele necesare reprezintă una dintre cele mai importante limitări.
„Orice absolvent de fizică ar putea schița planurile unei bombe nucleare potențial mai eficiente, dar de unde ar obține o bucată de uraniu? Același lucru este valabil și pentru armele biologice. Dacă ai acces la materialele și instalațiile capabile să le producă, atunci inteligența artificială nu va face o diferență prea mare dacă intenția ta este să provoci rău”, explică acesta.
Experții cer controale mai stricte asupra modelelor AI
Unele companii de inteligență artificială au început să introducă măsuri pentru a împiedica utilizarea instrumentelor lor în dezvoltarea armelor biologice. Cu toate acestea, majoritatea nu comunică public ce măsuri adoptă, dacă adoptă vreuna.
Profesorul Tom Inglesby, directorul Centrului pentru Securitate Sanitară de la Universitatea Johns Hopkins, avertizează că nu există încă un cadru guvernamental oficial care să protejeze împotriva acestui tip de utilizare abuzivă.
„Nu avem încă politici guvernamentale oficiale în nicio țară care să ne protejeze împotriva acestui tip de utilizare abuzivă”, afirmă specialistul.
Acesta solicită evaluări independente obligatorii ale noilor modele AI înainte de lansarea lor, astfel încât eventualele riscuri să fie identificate și eliminate înainte ca tehnologia să devină accesibilă publicului.
De asemenea, Inglesby consideră că accesul la date biologice cu risc ridicat, inclusiv informații despre modificările care ar putea facilita răspândirea agenților patogeni, ar trebui restricționat.
O altă măsură propusă vizează verificarea comenzilor de material genetic de către companiile care furnizează astfel de produse cercetătorilor, pentru a preveni utilizarea lor în dezvoltarea unor virusuri noi și extrem de periculoase.
Deși asemenea verificări există deja în anumite situații, ele sunt în mare parte voluntare și pot fi ocolite atunci când inteligența artificială este utilizată pentru a proiecta secvențe genetice periculoase care nu sunt recunoscute de sistemele de control.
Editor : Ș.A.
About the Author
