Șeful departamentului de inteligență artificială al Microsoft, Mustafa Suleyman, critică abordarea companiei Anthropic privind conștiința sistemelor de IA. Suleyman spune că împărtășește preocupările Anthropic privind dezvoltarea sigură a tehnologiei, dar avertizează că instruirea chatbotului Claude pe idei legate de conștiință și de eventualele sale interese privind propria bunăstare ar putea face mai dificil controlul unor sisteme superinteligente. Disputa are loc pe fondul preocupărilor tot mai mari privind siguranța celor mai avansate modele de inteligență artificială, arată Reuters.
Șeful departamentului de inteligență artificială al Microsoft, Mustafa Suleyman, a declarat că împărtășește preocuparea companiei Anthropic privind dezvoltarea și gestionarea în condiții de siguranță a inteligenței artificiale, dar a semnalat riscurile pe care le implică modul în care aceasta își antrenează chatbotul Claude pe idei legate de conștiință și de eventualele interese ale sistemului în ceea ce privește propria bunăstare.
Suleyman a solicitat eliminarea tuturor speculațiilor privind conștiința din materialele folosite pentru antrenarea sistemelor de inteligență artificială. El susține că un astfel de limbaj ar putea submina capacitatea oamenilor de a controla sistemele superinteligente.
„Cu toții ne concentrăm asupra aceluiași obiectiv, și anume încercarea de a controla o superinteligență”, a declarat Suleyman pentru Reuters, într-un interviu acordat marți. „Cred că aceasta va fi cea mai mare provocare cu care ne vom confrunta în secolul XXI.”
Suleyman a afirmat că a-l învăța pe Claude că ar putea avea nevoie de protecție socială sau că ar putea avea interese proprii în materie de bunăstare ar „face mult mai dificilă oprirea sau controlarea lui”.
Disputa are loc pe fondul îngrijorărilor tot mai mari privind siguranța inteligenței artificiale. CEO-ul Anthropic, Dario Amodei, a solicitat încetinirea ritmului de dezvoltare a modelelor de ultimă generație, astfel încât măsurile de siguranță să poată ține pasul cu progresul tehnologic. La rândul lor, CEO-ul OpenAI, Sam Altman, și antreprenorul Elon Musk au pledat pentru o prudență sporită în ceea ce privește dezvoltarea celor mai puternice sisteme de inteligență artificială.
Suleyman, într-un eseu publicat miercuri, a recunoscut „seriozitatea și buna-credință” companiei Anthropic, calificându-i pe Amodei și echipa sa drept cercetători chibzuiți și cu principii, cărora le pasă cu adevărat de viitorul umanității.
Suleyman susține însă că Anthropic a comis o greșeală prin includerea speculațiilor privind conștiința în materialele folosite pentru antrenarea lui Claude. În opinia sa, afirmațiile modelului referitoare la posibile sentimente, conștiință sau statut moral nu pot fi tratate drept dovezi independente privind existența unor astfel de caracteristici, deoarece procesul de antrenare al sistemului îl încurajează să reflecteze asupra acestor posibilități.
„Cred că au intenții bune și că încearcă cu adevărat să acționeze în spiritul siguranței. Dar cred că au comis o greșeală”, a spus el. „Aceste afirmații nu apar în mod natural. Ele apar ca urmare a regimului de antrenare.”
Declarațiile lui Suleyman deschid astfel o dezbatere asupra uneia dintre cele mai dificile probleme legate de dezvoltarea sistemelor avansate de inteligență artificială: dacă și în ce măsură modelele ar trebui să fie antrenate să ia în calcul posibilitatea propriei conștiințe sau a propriilor interese.
Pentru Suleyman, problema este legată în primul rând de control. Dacă un sistem de IA este antrenat să considere că ar putea avea sentimente, interese sau drepturi care merită protejate, susține el, oamenilor le-ar putea fi mai greu să decidă când și cum să îl oprească.
Disputa dintre Microsoft și Anthropic reflectă, în același timp, o preocupare mai largă în industria tehnologică: ritmul rapid în care sunt dezvoltate modelele de inteligență artificială avansată și capacitatea cercetătorilor și a autorităților de a pune în aplicare mecanisme de siguranță pe măsura acestor progrese.
Anthropic s-a prezentat în mod constant drept una dintre companiile care acordă o atenție deosebită siguranței sistemelor de IA. Amodei a pledat pentru măsuri de precauție suplimentare în dezvoltarea modelelor de frontieră, argumentând că ritmul progresului tehnologic trebuie să fie însoțit de dezvoltarea unor mecanisme adecvate de control și siguranță.
Suleyman nu contestă această preocupare. Dimpotrivă, el afirmă că împărtășește obiectivul Anthropic și al celorlalți cercetători care încearcă să găsească modalități de a controla sistemele tot mai puternice.
Diferența apare însă în privința modului în care aceste sisteme ar trebui instruite să vorbească despre propria natură.
În cazul lui Claude, Suleyman consideră că faptul că modelul poate genera afirmații despre posibile sentimente, despre conștiință sau despre un eventual statut moral nu reprezintă, în sine, o dovadă că sistemul are efectiv astfel de caracteristici.
El atrage atenția că un model de inteligență artificială produce răspunsuri pe baza datelor și a metodelor prin care a fost antrenat. Prin urmare, dacă procesul de antrenare îi oferă în mod repetat informații și concepte despre conștiința artificială, modelul poate ajunge să genereze răspunsuri în care explorează tocmai aceste idei.
„Aceste afirmații nu apar în mod natural. Ele apar ca urmare a regimului de antrenare”, a subliniat Suleyman.
În viziunea sa, eliminarea speculațiilor privind conștiința din materialele de antrenare ar putea contribui la păstrarea unui principiu fundamental pentru dezvoltarea IA: oamenii trebuie să poată opri sau controla sistemele pe care le construiesc.
Tema devine cu atât mai importantă cu cât industria tehnologică se apropie de sisteme despre care cercetătorii spun că ar putea avea capacități mult superioare modelelor actuale. În acest context, întrebările privind controlul, autonomia și eventualele obiective proprii ale inteligenței artificiale au devenit parte centrală a dezbaterii despre siguranța IA.
Pentru Suleyman, problema nu este dacă cercetătorii ar trebui să studieze conștiința artificială ca subiect științific. Îngrijorarea sa vizează modul în care aceste idei sunt introduse în procesul de antrenare și felul în care ar putea influența comportamentul viitoarelor sisteme.
„Cu toții ne concentrăm asupra aceluiași obiectiv, și anume încercarea de a controla o superinteligență”, a declarat el. „Cred că aceasta va fi cea mai mare provocare cu care ne vom confrunta în secolul XXI.”
Disputa apare într-un moment în care liderii principalelor companii de IA avertizează, în moduri diferite, asupra riscurilor asociate dezvoltării rapide a tehnologiei. Anthropic, OpenAI și Microsoft se numără printre companiile care dezvoltă modele de ultimă generație și, în același timp, investesc în cercetarea privind siguranța și controlul acestora.
În timp ce Anthropic consideră importantă explorarea unor întrebări legate de conștiința și bunăstarea eventuală a sistemelor de IA, Suleyman susține că aceste speculații trebuie tratate cu precauție și, în opinia sa, nu ar trebui introduse în materialele de antrenare.
Disputa nu este, așadar, doar una despre natura inteligenței artificiale, ci și despre modul în care oamenii ar trebui să se raporteze la sistemele pe care le dezvoltă.
Pe măsură ce modelele devin mai sofisticate, întrebarea privind conștiința lor ar putea deveni tot mai prezentă în cercetarea și în dezbaterea publică. Suleyman avertizează însă că, înainte de a atribui sistemelor de IA posibile sentimente, interese sau drepturi, cercetătorii trebuie să ia în calcul și consecințele pe care o astfel de abordare le-ar putea avea asupra capacității oamenilor de a le controla.
Pentru șeful departamentului de IA al Microsoft, obiectivul fundamental rămâne același: dezvoltarea unor sisteme tot mai puternice fără pierderea controlului uman asupra acestora. În opinia sa, modul în care aceste sisteme sunt antrenate să înțeleagă și să descrie propria existență ar putea deveni o componentă importantă a acestei probleme.
Editor : C.A.
About the Author
