Avertismentele sumbre privind posibilitatea ca inteligența artificială să scape de sub controlul creatorilor săi au încetat de mult să mai fie simple scenarii de science-fiction, devenind o realitate presantă pe agenda publică globală. Dezbaterea a căpătat o amploare fără precedent în această toamnă, după ce Jacob Coxon, un reputat cercetător din cadrul Anthropic, și-a anunțat demisia răsunătoare din motive de siguranță. Mesajul său de alarmă a strâns peste 100 de milioane de vizualizări în doar 24 de ore, declanșând un efect de domino în industria tech. Ulterior, Evan Hubinger, coordonatorul departamentului de aliniere a sistemelor AI din cadrul aceleiași companii, a avansat o estimare de-a dreptul terifiantă: riscul ca omenirea să sufere o extincție totală în următorul deceniu din cauza tehnologiilor emergente depășește pragul critic de 10%.
Între superinteligența apocaliptică și amenințările palpabile ale prezentului
Scenariile analizate de experți se împart în două mari categorii. Pe de o parte, există teama teoretică a unei superinteligențe, ale cărei obiective devin incompatibile cu supraviețuirea speciei umane. Pe de altă parte, analizele realizate de organizații precum institutul RAND, publicate în prestigioasa revistă Nature, sugerează că riscul extincției totale imediate este greu de atins, deoarece o entitate software ar avea nevoie de o capacitate masivă de interacțiune fizică pentru a distruge civilizația, acțiune ce ar putea fi detectată și blocată la timp. Cu toate acestea, pericolele concrete și iminente sunt deja aici: dezinformarea pe scară largă, atacurile cibernetice devastatoare și facilitarea creării de arme biologice.
De altfel, laboratoarele de cercetare au confirmat că cele mai noi modele AI au dezvoltat abilități îngrijorătoare. Anthropic a recunoscut că sistemele sale pot executa sarcini complexe de spionaj militar la nivel de expert uman. În mod similar, OpenAI a catalogat noul său model, GPT-6 Astra, drept un risc „critic” în materie de securitate cibernetică, datorită capacității sale autonome de a identifica vulnerabilități ascunse în sisteme informatice de importanță strategică și de a concepe atacuri informatice fără intervenție umană.
Taberele din Silicon Valley și bătălia legislativă de la Washington
În fața acestor constatări, lideri de top precum Dario Amodei (Anthropic), Sam Altman (OpenAI) și Elon Musk (xAI) au cerut public o încetinire controlată a ritmului de dezvoltare a modelelor AI de frontieră pentru a permite protocoalelor de siguranță să țină pasul cu tehnologia. Anthropic și Accenture au anunțat chiar un parteneriat istoric de 1 miliard de dolari pe cinci ani pentru a permite unor auditori independenți să verifice codul sursă al sistemelor AI. Totuși, curentul de opinie nu este uniform. La nivel politic, președintele american Donald Trump s-a poziționat ferm împotriva oricărei frâne puse inovației tehnologice, argumentând că o încetinire a Statelor Unite ar oferi un avantaj decisiv Chinei în cursa pentru supremație globală.
În replică, tabăra progresistă din Congresul SUA încearcă să impună limite stricte. Senatorul Bernie Sanders și congresmanul Greg Casar au depus o propunere legislativă radicală care vizează interzicerea temporară a dezvoltării „superinteligenței artificiale” până la crearea unui cadru federal solid de reglementare. Într-o economie globală fragmentată, unde modelele AI au început deja să participe activ la scrierea propriilor coduri și la accelerarea dezvoltării următoarelor generații de software, comunitatea științifică avertizează: marea provocare nu mai este de a prezice dacă AI va distruge lumea, ci dacă mai avem timp să măsurăm și să controlăm riscurile înainte ca aceste sisteme să devină complet autonome.
Sursa: Mediafax
About the Author
