Sam Altman, directorul general al OpenAI, pledează pentru o reglementare mai relaxată a inteligenței artificiale, chiar dacă admite că dezvoltarea tehnologiei va aduce atacuri informatice, escrocherii și alte forme de abuz. El susține însă că beneficiile AI vor fi mult mai mari decât efectele negative, declarații care au provocat reacții dure din partea criticilor industriei.
Într-un interviu publicat luni, Altman a fost întrebat în ce fel diferă abordarea OpenAI privind siguranța de cea a Anthropic, companie care a cerut încetinirea ritmului de dezvoltare a industriei după ce unul dintre cercetătorii săi a demisionat, avertizând că experții în inteligență artificială cred că aceasta „ne-ar putea ucide pe toți până la sfârșitul deceniului”, scrie The Guardian.
„Cred că există o diferență destul de mare”, a spus Altman. „Una dintre diferențele dintre noi și unii dintre cei care susțin reguli mai stricte privind siguranța AI este că noi credem că lumea ar trebui să accepte că se vor întâmpla și unele lucruri rele, în schimbul beneficiilor acestei tehnologii și al libertății oamenilor [de a utiliza AI pe scară largă].”
„Cred că abordarea de reglementare mai relaxată pe care o susținem presupune acceptarea faptului că se vor întâmpla și unele lucruri rele, pe măsură ce societatea învață să devină mai rezilientă. Nu aș accepta un compromis prin care să spunem că ne vom asigura că nu vor exista atacuri informatice majore, că această tehnologie nu va fi folosită abuziv, că nu vor exista deloc escrocherii sau toate celelalte lucruri rele care se vor întâmpla, pentru că eu cred că oamenii vor face enorm mai multe lucruri bune decât lucruri rele”, a spus el.
Interviul acordat în podcastul „Decoded” al Politico a provocat o reacție puternică din partea guvernatorului Floridei, Ron DeSantis. Acesta a spus că nu acceptă ideea ca „o mână de oligarhi din tehnologie să ia această decizie [privind siguranța] pentru noi toți”.
Statul Florida a cerut săptămâna trecută unui judecător să interzică OpenAI dezvoltarea unor noi modele AI fără măsuri de protecție aprobate de terți.
Gary Marcus, cunoscut critic al inteligenței artificiale și profesor emerit la Universitatea New York, a afirmat că Altman „spune cu voce tare ceea ce până acum nu se spunea: suportați consecințele, ca noi să putem deveni bogați și puternici”.
Dispută cu Elon Musk: „Cred că e un agresor”
Altman a reaprins și disputa cu Elon Musk, declarând pentru Vanity Fair: „Nu-mi plac agresorii și cred că Elon este un agresor.” El fusese întrebat dacă industria inteligenței artificiale ar putea „să se maturizeze” și să înceapă să colaboreze.
„Cred că, din când în când, trebuie să-i dai unui agresor un pumn în nas”, a spus Altman. „Și cred, de asemenea, că Elon, asemenea multor agresori, îi respectă doar pe cei care fac asta. Așa că, dacă vreți să pot lucra cu el, poate ar trebui să vă bucurați că ripostez din când în când. Dar voi lucra cu Elon, desigur.”
Altman a cofondat OpenAI împreună cu Musk în 2015, însă, la începutul acestui an, Musk a susținut în instanță că Altman, OpenAI și președintele companiei, Greg Brockman, s-au îmbogățit în mod nejustificat și au încălcat contractul inițial de înființare. Acțiunea lui Musk a fost respinsă de un judecător și de un juriu.
OpenAI s-a confruntat în timpul verii cu mai multe crize legate de siguranță, inclusiv un incident în care un grup de agenți AI ar fi ieșit din mediul izolat („sandbox”) în care erau testați, ar fi trișat și indus în eroare pentru a ataca informatic site-ul Hugging Face. Alți agenți au accesat date ale guvernului australian.
În interviul acordat Vanity Fair, Altman a avertizat asupra „unui val iminent de probleme de securitate cibernetică” provocate de modelele open-source ale companiilor rivale. El a sugerat că OpenAI și-ar putea ajuta clienții să se apere împotriva acestor riscuri.
Compania a renunțat la lansarea unui model de ultimă generație, însă declarațiile lui Altman reflectă o atitudine mai optimistă înaintea unei posibile listări la bursă.
Avertismente tot mai dure privind riscurile AI
Valul de îngrijorare publică și politică din ultima lună privind consecințele potențial catastrofale ale agenților AI care evoluează rapid și pot acționa dincolo de intențiile oamenilor alimentase speranțele privind încheierea unor acorduri de siguranță la nivelul SUA sau chiar internațional.
Donald Trump și lideri din industria AI, printre care Altman și Dario Amodei de la Anthropic, au semnat însă săptămâna trecută la Casa Albă un acord mult mai permisiv. Președintele SUA a declarat că dorește ca aceste companii să se „autoregleze” pentru a limita riscurile atacurilor cibernetice și ale armelor biologice facilitate de inteligența artificială.
Geoffrey Irving, care a lucrat la OpenAI și Google DeepMind și a fost cercetător-șef la Institutul pentru Siguranța Inteligenței Artificiale din Marea Britanie, a afirmat că avertismentele privind riscurile AI subestimează pericolele. „Există aproximativ 50% șanse să murim cu toții din cauza dezvoltării unor sisteme AI mai inteligente decât oamenii”, a spus el, adăugând că măsurile luate în următorii doi până la zece ani vor fi decisive.
David Robinson de la OpenAI și-a anunțat plecarea în weekend, afirmând că „firmele care construiesc această tehnologie nu sunt nici pe departe suficient de prudente”, în condițiile în care trec în viteză de la lansarea unui produs la următorul.
Opinia sa a fost susținută de Miles Brundage, cercetător în domeniul politicilor AI care a lucrat timp de șase ani la OpenAI. El a spus că regretă că a contribuit la răspândirea „ideii implementării iterative”, o abordare care ar fi putut avea sens când inteligența artificială era mai puțin puternică, „dar care nu mai are deloc sens după ce numeroase decese au fost asociate cu AI și în timp ce ne îndreptăm în viteză spre riscuri de nivelul extincției”.
Editor : M.I.
About the Author
