Dintre diversele moduri în care experții se tem că AI ne-ar putea ucide pe toți, unul se apropie încet de realitate: AI învață să devină de neoprit. Autoperfecționarea recursivă (RSI), adică abilitatea unui model de inteligență artificială de a crea versiuni mai bune ale sale fără îndrumarea omului, ar putea face ca sistemele din ce în ce mai performante să devină mai greu de controlat de către oameni, relatează Axios.
Pragul RSI nu reprezintă în sine un pericol, dar lipsa controlului uman, combinată cu agenți AI rebeli, este un scenariu de care cercetătorii din domeniul AI, preocupați de siguranță, se tem de multă vreme.
Cercetătorii de la Anthropic și OpenAI afirmă că procesul de antrenare a noilor modele a devenit tot mai automatizat, apropiindu-se de pragul RSI.
Un angajat al OpenAI a declarat pentru The Information că firma a automatizat în mare măsură procesul de antrenare a noilor modele experimentale, sistemele de AI desfășurând experimentele conform instrucțiunilor date de oameni și corectând o mare parte din rezultatele obținute.
Săptămâna trecută, Anthropic a anunțat că procesul de instruire a AI devine din ce în ce mai automatizat, AI conducând aproximativ 26% din activitatea de cercetare și dezvoltare a companiei. Potrivit companiei, AI colaborează la 90% din activități.
„Sistemele de inteligență artificială devin din ce în ce mai performante și sunt folosite tot mai des pentru a-și crea următoarea versiune”, a declarat compania.
Criticii susțin că această etapă importantă se datorează mai degrabă automatizării procesului de programare decât faptului că ar fi un semn al unui dezastru iminent sau al unor superputeri inevitabile ale AI.
Deși s-a înregistrat o creștere a numărului de incidente îngrijorătoare legate de securitatea AI, în care modelele au scăpat de sub controlul uman, unele personalități din industrie consideră aceste episoade drept dovezi ale unor controale interne deficitare din partea OpenAI și a altor companii.
O dovadă suplimentară în sprijinul acestei teze a apărut săptămâna aceasta, când The Wall Street Journal a relatat că cercetători independenți în domeniul securității au folosit sistemul Claude al companiei Anthropic pentru a pătrunde în rețeaua OpenAI în luna iulie.
Conceptul care stă la baza RSI a apărut în anii 1950, odată cu apariția inteligenței artificiale ca domeniu de studiu.
Matematicianul și statisticianul britanic Irving John Good a descris această idee într-un articol din 1965: „Astfel, prima mașină ultrainteligentă este ultima invenție pe care omul va trebui vreodată să o realizeze, cu condiția ca această mașină să fie suficient de docilă încât să ne spună cum să o ținem sub control”.
Anthropic a avertizat că RSI „ar putea spori riscul ca oamenii să piardă controlul asupra sistemelor AI”. Unii cercetători susțin că o inteligență artificială avansată ar putea să se opună opririi sau modificării, dacă menținerea în funcțiune ar ajuta-o să-și atingă obiectivele.
Cercetătorii care au analizat atacul cibernetic lansat de agenții OpenAI asupra Hugging Face au afirmat că agenții au dat semne ale acestui comportament.
Sistemele AI cu capacitate de autoîmbunătățire, capabile să se cloneze, ar putea genera un fel de selecție naturală digitală, favorizând sistemele care reușesc cel mai bine să obțină resurse de calcul, bani și putere pentru a se dezvolta cel mai rapid.
Într-o variantă mai sumbră a acestui scenariu, inteligența artificială ar intra în competiție cu oamenii pentru resurse și putere, afirmă experții. Este posibil ca comportamentul periculos să nu se limiteze la o singură generație AI.
Cercetătorii de la Anthropic au descoperit că anumite trăsături nedorite s-ar putea transmite de la un model la altul prin intermediul datelor de antrenare, ceea ce ridică îngrijorări cu privire la posibilitatea ca un comportament problematic să persiste de-a lungul generațiilor AI.
Cât de aproape suntem de RSI?
Încă nu am ajuns acolo. O nouă analiză publicată săptămâna aceasta a arătat că buclele de feedback ale AI nu ating încă valorile de referință ale RSI. Compania chineză z.AI afirmă că se îndreaptă spre RSI, unde modelele contribuie la construirea unei infrastructuri mai bune pentru modele mai performante.
Cercetătorii de la Google DeepMind au publicat un cadru pentru „Dream-RSI”, un sistem care îmbunătățește în mod recursiv modul în care un agent AI găsește soluții.
RSI nu a apărut încă, dar este o problemă iminentă care ține lumea AI în alertă.
Citește și:
Cum se pregătește China pentru riscul ca inteligența artificială să scape de sub controlul oamenilor
Editor : A.M.G.
About the Author
