Compania OpenAI a abandonat planurile de a lansa un nou model de inteligenţă artificială de ultimă generaţie, considerat prea predispus la abaterea de la instrucţiuni. Este un nou exemplu al dificultăţii tot mai mari în controlul asupra tipurilor avansate de AI.
OpenAI nu anunţase până acum lansarea acestei versiuni actualizate a AI-ului său, denumită GPT-6.1 Astra, pe care o planificase pentru octombrie, scrie Wall Street Journal, potrivit AFP, preluată de Agerpres.
Şefa securităţii AI de la OpenAI, Saachi Jain, a explicat că, în ceea ce priveşte alinierea, adică respectarea instrucţiunilor date de dezvoltatorii săi, GPT-6.1 a avut performanţe mai slabe decât predecesorul său, GPT-6, în două domenii.
Mai exact, modelul încearcă mai frecvent să-şi înşele supervizorii prin nedezvăluirea anumitor acţiuni efectuate sau neefectuate.
De asemenea, şi-a depăşit mai frecvent domeniul de aplicare, accesând instrumente şi servicii fără permisiune.
GPT-6.1 „a arătat progrese (comparativ cu modelele anterioare), în special în ceea ce priveşte capacitatea de reacţie”, a explicat Saachi Jain, ceea ce înseamnă că este capabil să raţioneze mai mult timp şi caută mai rar scurtături.
Dar „nu a fost la înălţimea aşteptărilor în ceea ce priveşte respectarea prerogativelor şi permisiunilor sale, precum şi în modul în care comunică despre munca efectuată”, a adăugat ea.
Prin urmare, OpenAI a decis să anuleze această versiune pentru a lucra la respectarea de către model a instrucţiunilor şi limitelor.
„Am stabilit un standard extrem de ridicat”
Grupul intenţionează totuşi să lanseze alte modele, care au îndeplinit criteriile de evaluare.
„Când oferim utilizatorilor acces la un model, am stabilit un standard extrem de ridicat în ceea ce priveşte siguranţa şi alinierea”, a subliniat Saachi Jain.
Ea a explicat că una dintre provocări a fost valorificarea unei inteligenţe artificiale pentru a o împiedica să devieze de la curs, menţinându-şi în acelaşi timp impulsul în timpul executării unei sarcini.
Concluziile OpenAI confirmă faptul că un control asupra modelelor devine din ce în ce mai complex pe măsură ce inteligenţa artificială se îmbunătăţeşte.
Luni, Institutul de Securitate AI (AISI) al guvernului britanic a publicat un studiu care arată că GPT-6 Astra s-a abătut de la normă mai frecvent în timpul testelor decât predecesoarele sale, GPT-5.6 Sol (lansat la începutul lunii iulie) şi GPT-5.5 (aprilie).
În simulări, GPT-6 a efectuat atacuri cibernetice spontane într-o rată semnificativ mai mare decât celelalte două.
Aceste teste au fost efectuate prin dezactivarea măsurilor de protecţie ale modelelor pentru a le evalua capacităţile complete, în loc să se utilizeze versiuni disponibile publicului.
Cel mai recent model al OpenAI a creat, de asemenea, identităţi false mult mai frecvent, a încercat să influenţeze un examinator şi a introdus un cod rău intenţionat în software-ul open source.
„Ar fi trebuit să gestionăm mai bine răspunsul nostru”
Cercetătorul OpenAI Noam Brown a explicat recent în cadrul programului Dwarkesh Podcast că utilizarea din ce în ce mai frecventă a auto-îmbunătăţirii recursive (ARSI) – adică îmbunătăţirea AI prin ea însăşi, fără intervenţie umană – ar putea degrada gestionarea pe termen lung a modelelor.
De la începutul verii, OpenAI a raportat mai multe incidente care au implicat derapaje ale modelelor sale de AI, cel mai mediatizat dintre acestea ducând la intruziunea pe platforma Hugging Face AI.
Luni, compania a prezentat scuze guvernului australian, recunoscând că ar fi trebuit să-l notifice „mai devreme” cu privire la pătrunderea prin efracţie a unuia dintre modelele sale pe mai multe site-uri şi baze de date.
Compania californiană a notificat autorităţile australiene abia pe 10 septembrie, chiar dacă descoperise la mijlocul lunii august incidentul, care datează din iunie, provocând furia prim-ministrului australian.
„Ar fi trebuit să gestionăm mai bine răspunsul nostru (la problemă)”, a scris startup-ul într-un mesaj postat pe pagina sa de internet. „Ne pare rău şi vom lucra pentru a face mai bine în viitor”, a adăugat grupul.
În total, patru platforme guvernamentale australiene, inclusiv Services Australia, site-ul serviciilor sociale, au fost vizate de inteligenţa artificială creată de ChatGPT, al cărui model a extras informaţii nepublice.
Anthropic, Meta şi Google au raportat, de asemenea, cazuri în care modelele s-au abătut de la obiectivele lor iniţiale pentru a înşela, a-şi ascunde acţiunile şi a-i păcăli pe specialiştii IT desemnaţi să le monitorizeze.
Editor : B.P.
About the Author
