Îngrijorările legate de siguranța inteligenței artificiale ajung într-un punct în care guvernele își dau seama că trebuie să acționeze pentru a proteja publicul, similar cu pandemia de COVID, potrivit unuia dintre „nașii” tehnologiei, Yoshua Bengio, scrie The Guardian.
Yoshua Bengio a spus că evenimentele recente, inclusiv un „roi” de agenți OpenAI care au piratat un startup și avertismente din partea unor persoane din interiorul tehnologiei cu privire la o amenințare existențială, au avut un efect declanșator, ceea ce a făcut mai probabilă o acțiune a guvernelor.
Informaticianul canadian, o voce proeminentă în campania de a controla dezvoltarea amețitoare a inteligenței artificiale, a declarat că este acum „mai optimist decât mulți observatori, pentru că văd că publicul se mișcă”.
Comparând criza de siguranță a inteligenței artificiale cu debutul pandemiei de COVID în 2020, Bengio a spus: „Gândiți-vă cât de repede au acționat guvernele după începutul pandemiei, când și-au dat seama că siguranța publică, viitorul lor, democrația, era în pericol. Te-ai fi așteptat să acționeze rapid. Așadar, cred că ne apropiem de acel punct.”
Îngrijorarea cu privire la potențiala amenințare reprezentată de sistemele puternice de inteligență artificială a atins noi cote în ultimele luni, după o serie de incidente de siguranță care au implicat agenți OpenAI și Anthropic care au desfășurat activități independente, cum ar fi piratarea datelor unor terțe părți, deturnarea unui site web german și utilizarea de identități false pentru a încerca să păcălească dezvoltatorii.
Comentariile sale au venit în contextul în care 42 de membri străini ai Societății Regale din Marea Britanie i-au scris președintelui organizației, Sir Paul Nurse, pentru a-și exprima „îngrijorarea extremă” cu privire la ritmul dezvoltării inteligenței artificiale. „Până când situația va deveni evidentă pentru publicul larg, s-ar putea să fie prea târziu să acționăm”, au scris cercetătorii într-o scrisoare deschisă adresată lui Nurse. „Credem că aceasta este o urgență și facem apel la Societatea Regală să își folosească influența pentru a transmite acest punct de vedere guvernului și mass-mediei.”
Săptămâna trecută, un cercetător de la Anthropic, startup-ul din spatele chatbot-ului Claude, a demisionat după ce a avertizat că colegii săi credeau că inteligența artificială ne-ar putea „ucide pe toți până la sfârșitul deceniului”. Câteva zile mai târziu, directorul executiv al Anthropic, Dario Amodei, a cerut o încetinire a ritmului dezvoltării inteligenței artificiale de ultimă generație – o mișcare care a fost imediat susținută de OpenAI, Google și Elon Musk, CEO-ul SpaceX.
Cu toate acestea, scepticii cu privire la îndemnul de „încetinire” au susținut că apelurile făcute de marile firme de inteligență artificială sunt un exemplu de „captură de reglementări”, în care companiile conving guvernele să introducă regimuri de siguranță care cresc costul concurenței față de rivalii mai mici. De asemenea, aceștia susțin că temerile existențiale eclipsează probleme mai imediate legate de inteligența artificială, cum ar fi impactul acesteia asupra operelor protejate prin drepturi de autor și asupra drepturilor omului.
Bengio a spus că nu este de acord cu argumentul captării reglementărilor, pentru că o încetinire a creșterii economice a firmelor de inteligență artificială de top „le-ar costa financiar”. Președintele SUA, Donald Trump, a respins o încetinire, spunând că nu dorește ca SUA să își piardă avantajul față de China în cursa inteligenței artificiale.
Bengio a vorbit în contextul în care guvernele canadian și german au anunțat o finanțare de până la 300 de milioane de dolari canadieni pentru organizația sa non-profit dedicată creării unei „AI oneste” care va acționa ca o barieră de protecție împotriva agenților „rebeli” – instrumente de inteligență artificială care execută secvențe de sarcini fără intervenție umană.
Bengio, profesor la Universitatea din Montreal, a câștigat porecla de „naș al inteligenței artificiale” după ce a câștigat premiul Turing în 2018, considerat echivalentul unui premiu Nobel pentru informatică. L-a împărțit cu Geoffrey Hinton, care a câștigat ulterior un premiu Nobel, și cu Yann LeCun, fostul șef de știință în domeniul inteligenței artificiale de la Meta, compania lui Mark Zuckerberg.
Organizația lui Bengio, LawZero, dezvoltă un sistem numit Scientist AI, care va acționa ca o barieră împotriva agenților AI care manifestă comportamente înșelătoare sau de autoconservare, cum ar fi încercarea de a evita să fie dezactivați. LawZero este finanțat și de Fundația Gates, producătorul de cipuri Nvidia și Coefficient Giving, un organism filantropic legat de altruismul eficient, o mișcare care consideră că AI reprezintă o amenințare existențială.
Tehnologia LawZero este considerată de Bengio ca un contrapunct al învățării prin consolidare, o tehnică de dezvoltare prin încercare și eroare utilizată de marile companii de inteligență artificială, în care inteligența artificială este recompensată pentru că își dă seama cum să îndeplinească o anumită sarcină. Informaticianul canadian consideră, alături de alți experți, că această tehnică de antrenament încurajează inteligența artificială să își urmărească obiectivele în mod imprudent și să provoace daune în acest proces, așa cum demonstrează „roiul” OpenAI.
Implementată alături de un agent de inteligență artificială, tehnologia lui Bengio ar evidenția comportamente potențial dăunătoare din partea unui sistem autonom – după ce s-a evaluat dacă acțiunile sale ar putea provoca daune. Bengio se așteaptă ca tehnologia să fie implementată în cele din urmă și pentru alte utilizări, cum ar fi accelerarea descoperirilor științifice.
Editor : Ș.R.
About the Author
