Cei mai mari 25 de matematicieni ai lumii avertizează asupra amenințării AI. „Obiectivele sunt fundamental nealiniate”

25 dintre cei mai buni matematicieni ai lumii, toți premiați cu Medalia Fields – echivalentul Premiului Nobel în matematică – au semnat o scrisoare comună în care atrag atenția asupra „intruziunii” inteligenței artificiale în domeniul matematicii. Ei spun că rezolvarea unora dintre cele mai dificile probleme de matematică cu ajutorul AI dăunează de fapt domeniului, pentru că scopul nu este atât găsirea unei soluții, cât mai ales dezbaterea ideilor și înțelegerea metodelor care duc la rezultatul final. În final, ei cer companiilor din domeniul AI să discute aceste lucruri cu oamenii de știință din domeniul matematicii, dar și din alte domenii care se vor „confrunta cu probleme similare în numeroase alte forme ale muncii intelectuale”.

„Sunt mândru să mă aflu printre cei 25 de semnatari inițiali – toți premiați cu Medalia Fields – ai declarației de mai jos, care a luat naștere în urma discuțiilor purtate între noi în ultima săptămână”, a scris matematicianul Terence Tao pe blogul lui, unde a postat și textul scrisorii.

El își exprimă regretul că nu a existat timp pentru o consultare mai lungă, considerând că „urgența situației impunea emiterea unei declarații cât mai curând posibil”, și invită și alți matematicieni să semneze scrisoarea.

Textul, publicat sub titlul „O gravă nealiniere a inteligenței artificiale în matematică”, afirmă în esență că rezolvarea celor mai dificile probleme de matematică cu ajutorul inteligenței artificiale (AI) dăunează grav domeniului, pentru că îi văduvește pe oamenii de știință de motivația pentru care fac cercetare la cel mai înalt nivel: curiozitatea, dificultatea, provocarea de a găsi soluții la probleme și de a depăși noi praguri.

„Cele mai prețioase resurse ale profesiei noastre sunt studenții și ideile”, scriu semnatarii scrisorii. Or, rezolvarea unor probleme cu ajutorul puterii de calcul copleșitoare a AI nu le mai dă posibilitatea de a dezbate și dezvolta idei și concepte.

„Rezolvarea problemelor este doar un instrument și un indicator intermediar pentru atingerea scopului principal: înțelegerea conceptuală și viziunea profundă. A uita acest lucru în era inteligenței artificiale poate întoarce instrumentul împotriva scopului său primar”, mai spun cei 25 de matematicieni.

„Asistăm la o amenințare generală la adresa muncii intelectuale”, arată ei, adăugând că formarea într-un domeniu are scopul „nu doar pentru a produce un răspuns sau un produs final, ci și pentru a dezvolta înțelegerea și capacitatea de a formula noi întrebări și idei”.

Redăm mai jos textul integral al scrisorii:

„În ultimele câteva luni, capacitățile matematice ale modelelor de limbaj (LLM) s-au îmbunătățit dramatic, ajungând în punctul în care pot rezolva probleme majore nerezolvate din numeroase domenii ale matematicii. Cu toate acestea, presiunea companiilor de AI de a rezolva probleme matematice ca pe un simplu indicator de performanță (benchmark) este dăunătoare pentru domeniul matematicii și pentru comunitatea matematică. Obiectivele companiilor de AI și cele ale comunității matematice sunt fundamental nealiniate. Privim aceste aspecte ca pe o parte a unor probleme mai ample de aliniere care afectează și alte profesii științifice și creative, precum și societatea în ansamblul ei.

Cercetarea în matematică se ocupă cu înțelegerea structurilor fundamentale ale formelor, numerelor și fenomenelor naturale. De-a lungul generațiilor, aceasta a construit un ansamblu vast de idei, metode, abstracțiuni și alte instrumente sofisticate pentru a descifra peisajul matematic. La rândul lor, tehnologiile și științele moderne se bazează pe aceste instrumente matematice.

Problemele celebre au servit adesea drept repere și faruri de ghidaj prin care s-a putut măsura o înțelegere mai profundă a acestui domeniu. Rezolvarea unei astfel de probleme a fost întotdeauna un semn clar al apariției unor noi perspective și metode interesante, care erau apoi studiate de comunitate printr-un proces lung și riguros de conferințe, discuții și simplificări. La finalul acestui parcurs, se ajungea ideal la o prezentare academică adecvată pentru a fi studiată de orice student masterand sau chiar de licență. Unele idei matematice își continuă călătoria pentru a deveni, după decenii sau secole, instrumente înțelese și utilizate de întreaga societate.

Comunitatea matematică funcționează, în multe privințe, ca o versiune în miniatură a umanității. Este alcătuită din indivizi care folosesc o mare varietate de abordări diferite, uniți de valori fundamentale. Cele mai prețioase resurse ale profesiei noastre sunt studenții și ideile, iar pe acestea le cultivăm cu o atenție deosebită. Ne simțim responsabili să îi ajutăm să își atingă potențialul maxim, până când pot avea o existență de sine stătătoare în lumea matematică. Studenților le propunem adesea probleme cu scopul principal de a le dezvolta abilitățile necesare pentru a avansa în cercetare și în alte domenii. Ideile noastre le diseminăm prin prelegeri, discuții private și redactări riguroase, conectându-le la ideile anterioare ale altora. Aceste procese necesită inevitabil timp și se bazează pe interacțiunea umană.

În ultimele luni, succesul AI în rezolvarea unor probleme matematice majore a ajuns în atenția publicului larg, dincolo de cercurile matematice. Însă rezolvarea problemelor este doar un instrument și un indicator intermediar pentru atingerea scopului principal: înțelegerea conceptuală și viziunea profundă. A uita acest lucru în era inteligenței artificiale poate întoarce instrumentul împotriva scopului său primar. Într-adevăr, producția în masă și într-un ritm tot mai rapid de afirmații de tip „adevărat/fals” ar putea distruge un teren fertil în loc să insufle viață ideilor noi.

Deseori, aceste soluții sunt anunțate în grabă, fără a lăsa timp pentru o redactare corespunzătoare, pentru izolarea noilor metode și idei sau pentru citarea lucrărilor anterioare relevante ale altor cercetători. Ca în toate profesiile creative, acest lucru ridică probleme serioase legate de atribuire și plagiat. Mai mult, fără matematicienii dedicați care trebuie să se ocupe de dezvoltarea și integrarea lor în canonul matematic, ideile concepute de AI nu ar prinde niciodată viață pe deplin, iar lanțul crucial de transmitere umană între matematicieni s-ar pierde.

Asistăm la o amenințare generală la adresa muncii intelectuale, cauzată de nealinierea dintre rezultatul utilizării AI și scopul său inițial. În multe domenii și activități, anii de formare au servit tradițional nu doar pentru a produce un răspuns sau un produs final, ci și pentru a dezvolta înțelegerea și capacitatea de a formula noi întrebări și idei. Cu toate acestea, construind pe baza unui ansamblu vast de lucrări umane anterioare, sistemele AI devin tot mai capabile să genereze direct rezultatele unei astfel de munci, iar aceste obiective își pierd alinierea. Problemele cu care se confruntă comunitatea matematică în prezent sunt similare cu cele din alte profesii științifice și creative și prefigurează provocări pe care întreaga umanitate le-ar putea întâmpina: cum să ne asigurăm că, pe măsură ce AI schimbă modul în care se desfășoară munca, nu pierdem din vedere ceea ce acea muncă trebuia să realizeze de la bun început.

Inteligența artificială oferă potențialul de a îmbunătăți și accelera studiul și înțelegerea matematică autentică. Matematica, ca profesie, va trebui să se adapteze acestor schimbări în diverse moduri. Cu toate acestea, dacă aceste transformări vor aduce beneficii domeniului sau vor avea un efect distructiv va depinde în mare măsură de deciziile oamenilor care controlează această nouă tehnologie.

Aceste chestiuni trebuie abordate de urgență în cadrul comunității matematice, de către companiile care dezvoltă aceste tehnologii și, mai larg, de o societate ce se va confrunta cu probleme similare în numeroase alte forme ale muncii intelectuale.”

Semnatarii scrisorii: