Elon Musk propune ca principalele companii de inteligenţă artificială din SUA şi China să testeze reciproc modelele înainte ca acestea să fie lansate public, pentru a identifica eventualele riscuri de siguranţă. Propunerea vine în contextul în care mai mulţi lideri ai industriei au cerut încetinirea dezvoltării celor mai avansate sisteme AI, potrivit CNBC.
Vorbind la All-In Summit din Los Angeles, Musk a afirmat că xAI, OpenAI, Anthropic, Google şi Meta, alături de „trei sau patru dintre principalele companii chineze”, ar trebui să permită rivalilor să ruleze teste asupra modelelor lor.
„În loc să-ţi corectezi singur tema, ai avea cel puţin concurenţii care să-ţi verifice munca şi să tragă alarma dacă observă probleme”, a declarat Musk.
Musk admite că metoda nu ar reprezenta o soluţie perfectă, dar consideră că ar creşte semnificativ şansele de identificare a problemelor. „Şansele de a găsi probleme sunt dramatic mai mari”, a spus el, potrivit News.ro.
Companiile rivale xAI nu şi-au dat deocamdată acordul pentru un asemenea sistem. CEO-ul Anthropic, Dario Amodei, a propus separat ca laboratoarele AI să permită evaluări efectuate de terţi, prin evaluatori independenţi care să verifice practicile de siguranţă.
Avertismente grave din interiorul industriei AI
Dezbaterea s-a intensificat după ce Jacob Coxon, fost cercetător la Anthropic şi OpenAI, şi-a dat demisia şi a acuzat principalele laboratoare AI că „se joacă cu vieţile noastre”. Evan Hubinger, responsabil pentru alinierea AI la Anthropic, i-a susţinut avertismentul: „Jacob are dreptate aici – chiar credem cu sinceritate că AI ar putea ucide toţi oamenii! Eu personal cred că probabilitatea este de peste 10% în următorul deceniu”.
În weekend, Musk şi CEO-ul OpenAI, Sam Altman, au susţinut propunerea lui Amodei privind încetinirea ritmului de dezvoltare a modelelor, într-o manifestare rară de unitate între liderii unor companii rivale. O problemă importantă rămâne însă competiţia cu China. Amodei a numit această situaţie „cea mai dificilă dilemă”, deoarece o încetinire în SUA ar putea permite companiilor chineze să avanseze mai rapid.
Administraţia Trump respinge apelurile pentru introducerea unor restricţii mai ample. Preşedintele Donald Trump a calificat temerile privind AI drept o „farsă” şi o „înşelătorie”, iar directorul Consiliului Economic Naţional, Kevin Hassett, a declarat că sectorul privat este „locul potrivit” pentru gestionarea acestor riscuri. Musk consideră însă că mecanismul de verificare reciprocă ar putea fi implementat rapid şi ar putea include inclusiv China: „Ceea ce propun este un pas în direcţia corectă şi este ceva ce putem face rapid. Cred că probabil şi China ar fi de acord”.
Editor : B.E.
About the Author
