Anthropic a declarat luni că experimentele sale sugerează că modelele mici de IA ar putea fi la doar câteva luni distanță de a deveni suficient de capabile să se autoreplice pe dispozitive comerciale din categoria „Internetul lucrurilor” (IoT), precum cuptoarele inteligente și set-top box-urile Android TV, transmite Reuters.
În cadrul experimentelor sale, Anthropic a analizat dacă modelele de IA pot identifica dispozitive vulnerabile, se pot copia pe aceste dispozitive și pot continua să se răspândească fără ajutorul omului.
Compania a constatat că modelele mici, cu mai puțin de 30 de miliarde de parametri, pot parcurge numeroșii pași necesari pentru replicare. Cu toate acestea, firma a constatat că astfel de modele de IA au întâmpinat dificultăți în a parcurge întreaga secvență de la început până la sfârșit.
În cadrul testelor sale simplificate, în care au fost eliminate unele etape de securitate, Anthropic a constatat că modelele GLM-5.2 și cele mai puternice erau capabile de replicare de la un capăt la altul.
Modelele care se replică ar fi greu de oprit, deoarece nu există un punct central de oprire și, spre deosebire de malware-ul care nu se bazează pe IA, acestea ar putea, de asemenea, să identifice singure dispozitive necunoscute, vizând procesoarele din centrele de date, a avertizat Anthropic.
În cadrul cercetării sale, firma s-a concentrat pe dispozitive IoT precum televizoarele Android, aparatele electrocasnice inteligente și alte gadgeturi conectate la internet, deoarece acestea sunt, de obicei, slab securizate.
Compania specializată în IA a avertizat, de asemenea, că, dacă modelele mici s-ar îmbunătăți în ritmul istoric, acestea ar fi capabile să se replice în mod autonom până la sfârșitul acestui an, urmând ca, la scurt timp după aceea, să le urmeze exemplul și alte modele.
Anthropic a mai afirmat că astfel de sisteme autonome de IA se vor replica probabil lent și se vor baza pe resurse de calcul larg disponibile, dar relativ nesigure. Compania a adăugat că sistemele ar trebui consolidate pentru a îngreuna răspândirea acestor agenți de IA.
Editor : B.E.
About the Author
