Inteligența artificială poate să scrie, să calculeze și să ne imite vocea, dar nu poate să poarte responsabilitatea unei decizii. Oricât de repede avansează tehnologia, linia roșie rămâne aceeași: algoritmul este doar un instrument, iar ultimul cuvânt trebuie să-l aibă mereu omul. Vorbim despre etica folosirii inteligenței artificiale cu Gabriela Popescu, directorul general al unei mari companii de tehnologie.
Cristina Cileacu: Gabriela Popescu, General Manager Microsoft România, Moldova și Asia Centrală, bine ați venit la Pașaport diplomatic!
Gabriela Popescu: Mulțumesc pentru invitație.
Inteligența artificială, doar pe baze etice
Cristina Cileacu: De ce invităm directorul general al unei companii de tehnologie la o emisiune despre diplomație? Pentru că în momentul de față companiile tech sunt cele care negociază la modul direct cu guvernele. Vedem asta în toată lumea, dar mai ales în Statele Unite. Compania pe care o reprezentați are chiar și un birou la ONU, la Națiunile Unite. Este foarte implicată în ceea ce înseamnă menținerea zonei etice în funcționalitatea tehnologiei. Și aș vrea să vă întreb, pentru că vedem, etica pare să nu mai facă parte din viața noastră politică, viețile noastre obișnuite, de ce se insistă atât de mult pe acest aspect al eticii în utilizarea tehnologiei?
Gabriela Popescu: Mulțumesc pentru invitație. Compania pe care o reprezint are ca principiu de bază în tot ceea ce face, funcționarea pe bază de încredere. Această încredere se referă la felul în care noi ne poziționăm în relațiile cu partenerii noștri, cu clienții, dar bineînțeles, și felul în care construim tehnologia pe care o punem la dispoziția societății. Este foarte important ca atunci când folosim o tehnologie și mai ales când vorbim de tehnologie avansată precum inteligența artificială, să aibă în spate principii etice, să aibă în spate principii care să ofere utilizatorului încrederea că tehnologia va fi folosită pentru a face bine și nu pentru a afecta în niciun fel activitatea pe care o desfășoară. Compania pe care o reprezint este una dintre primele care au vorbit despre principii etice în spatele inteligenței artificiale și, mai mult decât atât, în luna septembrie al acestui an, am publicat și pus în dezbatere publică un cod de conduită în ceea ce privește inteligența artificială, cod care timp de șase săptămâni este deschis propunerilor din partea oricărei terțe părți, pentru a ne asigura că atunci când vom avea acest cod ca fundament a felului în care creăm și punem la dispoziție tehnologia de inteligență artificială, ea reprezintă atât principiile noastre de bună practică, principiile noastre etice, principiile pe care noi le-am creat deja pentru inteligența artificială, dar reflectă și principiile sau viziunea societății despre ce înseamnă inteligența artificială. Tocmai pentru că vorbim de inteligența artificială care ne poate impacta felul în care lucrăm și felul în care funcționăm, atât pozitiv, dar și negativ, dacă nu avem niște principii etice în spate. Compania consideră că este foarte important ca această tehnologie să fie creată și pusă la dispoziție într-un cadru reglementat foarte clar și care să reflecte în același timp și legislațiile aplicabile din diferite țări.
Războiul s-a mutat în spațiul cibernetic
Cristina Cileacu: Ne uităm la lumea din jurul nostru și vedem câte probleme sunt, câte războaie și constatăm că și securitatea cibernetică a devenit o formă de război în prezent. Cum putem să devenim la fel de, să spunem, de buni în apărarea aceasta? Pentru că tehnologia avansează foarte repede, noi rămânem în urmă cu învățatul.
Gabriela Popescu: Întreaga situație, atunci când vorbim de inteligența artificială, prima reacție pe care o avem cel mai des, este să ne gândim la ceva super sofisticat, la o lume care este preluată de robot și totul este făcut din plin prin intermediul unor roboți. Și nu, oamenii nu mai au loc acolo. În realitate, atunci când vorbim de inteligența artificială, la nivelul unei companii lucrurile sunt mai simple și probabil că fiecare dintre noi, în activitatea noastră de zi cu zi în viața obișnuită, am interacționat de mai multe ori decât credem cu inteligența artificială. Atunci când vorbim despre ce înseamnă inteligența artificială la nivelul unei companii, plecăm de la, de pildă, redactarea sau sumarizarea unui document foarte lung al unui contract, pentru o citire mai ușoară, o primă citire mai ușoară sau vorbim despre task-urile repetitive pe care le avem fiecare dintre noi în activitatea de zi cu zi, care pot fi preluate de un tool de inteligență artificială, astfel încât la sfârșitul zilei, fiecare dintre noi să poată să își acorde mai mult timp acelor activități care aduc mai multă valoare în ceea ce face. Cu cât tehnologia este mai avansată și cu cât fiecare dintre noi interacționează mai mult cu diferite tipuri de tehnologie, cu atât mai dese pot fi atacurile cibernetice și cu atât mai des putem să ne ne lovim de ele. Și cu cât tehnologia este mai avansată, cu atât poate să fie mai greu să ne dăm seama atunci când nu interacționăm cu o terță parte, cu un om, ci interacționăm cu tool-uri de inteligență artificială, care sunt folosite în mod negativ. Tehnologia avansează foarte repede, așa cum ați spus, învățăm, dar câteodată este posibil să nu putem să ținem pasul cu toate dezvoltările și atunci cred că putem să vorbim despre niște recomandări simple. Ne punem întrebarea cu cine interacționăm? Primim un mesaj, are o urgență, ni se cere să facem ceva foarte rapid. Este ceva care vine cu o cerere care trebuie rezolvată imediat.
Cristina Cileacu: Presiune.
Gabriela Popescu: O presiune extraordinară, o presiune diferită de activitatea de zi cu zi, normală. Este un semn de întrebare pe care trebuie să-l avem, nu, întotdeauna când primim un mesaj de la un nume pe care nu îl cunoaștem. Respectiv un mesaj este cu adevărat real, este ceva în neregulă cu mesajul respectiv, ni se cere ceva în neregulă în mesajul respectiv? Este un semn de întrebare. Nu întotdeauna imaginile pe care le vedem sunt imagini reale. Și dacă vedem, dacă bunul nostru simț, vorbim până la urmă de bunul simț și de interacțiunea normală, dacă bunul nostru simț ne… Avem un semn întrebare că ceva nu este așa cum ne așteptam. Este deja un semn că trebuie să ne uităm de două ori la lucrul respectiv. Acestea sunt câteva dintre elementele, semnalele de alertă pe care putem să le avem. Ce putem să facem atunci când trebuie să ne autentificări într-un portal, în orice fel de tool de tehnologie? Autentificarea în doi pași, care este recomandată de orice companie de tehnologie, este un pas foarte ușor de făcut. Dacă ni se cere să descărcăm pe instrumentul nostru de lucru ceva ca să dovedim că suntem om. Știți că avem această întrebare ca să verificăm dacă ești om. Poate să fie un semn întrebarea de ce mi-aș descărca eu ceva pe instrumentul meu de lucru la care nu am acces? Acestea sunt niște lucruri care vin din bunul simț, vin din interacțiunea pe care o avem cu tehnologia și care ar trebui să ne ridice semne de întrebare. În compania pe care o reprezint avem o recomandare în ceea ce facem, care începe prin a ni se recomanda să luăm o pauză dacă suntem într-o situație nouă, dificilă, diferită. Prima recomandarea este să luăm o pauză și să ne gândim Este acest lucru ceva care este obișnuit? Aceasta este o recomandare foarte simplă pe care o pot face dincolo de folosirea unei tehnologii adecvate învățarea despre tehnologia, învățarea, educarea în ceea ce privește tehnologia respectivă, să ne folosim…
Cristina Cileacu: Instinctele, până la urmă.
Gabriela Popescu: Să ne folosim instinctul, să ne asigurăm că lucrurile sunt corecte, foarte importante. Dacă într-adevăr considerăm că ceva s-a întâmplat, ceva ce ceea ce ni se întâmplă, la care suntem expuși este o încălcare. Avem o instituție în România foarte bine poziționată, super solidă la care trebuie să raportăm. Avem un număr de telefon, 1911, la care putem să sunăm sau putem să intrăm online și să trimitem un mesaj la DNSC și să raportăm o încălcare, o situație pe care o avem pentru ca această instituție să poată lua imediat măsuri și să verifice despre ce este vorba.
Paradox românesc: internet rapid, AI puțin
Cristina Cileacu: Ați publicat un raport, și aici o să vreau să citez, care arată că 18% din populația care lucrează în România folosește AI generativ, față de 32,3% în Polonia, 33,3 în Ungaria, 31,2 în Cehia. Adică România este pe locul 65 dintre cele 147 de economii care au fost analizate. Cum explicați dumneavoastră, pentru că reprezentați nu doar România, ci o întreagă regiune, partenerilor din alte țări, că aici avem o viteză fantastică la internet, dar abilitățile noastre digitale sunt cumva mult în urma altor țări.
Gabriela Popescu: Ultima citire a acestui raport a fost publicată în luna septembrie și, așa cum ați menționat, avem 18% în România. Am să încep cu partea pozitivă. La penultima citire aveam 17,6. Deci creștem, deci ne ducem în direcția pozitivă. Am reușit să creștem de la 17,6 la 18. În același timp, dacă ne raportăm la țările din zona noastră pe care le-ați menționat, nu suntem în cea mai bună poziție, nu suntem în cea mai fericită poziție, pentru că țările din jurul nostru sunt au un procent de adopție mult mai mare. Am să mă opresc și am să fac aici un comentariu și am să spun următorul lucru: România are un talent extraordinar în domeniul IT. Doar compania pe care o reprezint are peste 2000 de angajați în România, în cele 3 orașe în care activăm. Aceeași este situația și cu alte companii din domeniul industriei, din domeniul tehnologiei, care au o prezență foarte, foarte solidă în țară. În același timp însă, avem acest procent nu pentru că nu suntem talentați, nu pentru că nu avem resurse locale, pentru că avem. Ce au ceilalți diferit față de noi este viteza cu care implementează o strategie de digitalizare și viteza cu care, sau importanța pe care au dat-o digitalizării și viteza cu care au implementat digitalizarea în țările lor, față de noi, care nu am avut această viteză. Există un paradox în România avem o infrastructură extraordinară și avem viteză de internet, una dintre cele mai bune din Europa, inclusiv în mediul rural. În același timp, nivelul de competențe digitale ne plasează pe ultimul loc în Europa, pentru că doar o treime din cetățenii României au un nivel decent de competențe digitale. Este un paradox care vine din mai mulți factori. Evoluția, dezvoltarea pe partea de tehnologie se concentrează în orașele mari și dacă ne uităm la tipul de industrii sau zone unde vedem o evoluție tehnologică foarte sănătoasă, chiar excepțională în companiile mari, în orașele mari și atunci și în companiile mari, companiile mai mici pe de-o parte, iar pe de altă parte structura autorităților nu au aceeași viteză în ceea ce privește digitalizarea și adoptarea de tehnologie. Avem companii din domeniul medicinei și sănătății care au văzut oportunitățile pe care instrumentele de inteligență artificială le pot aduce în a avea o funcționare mai coerentă și în a-și ușura interacțiunea cu clienții pe care îi au. Nu în mod întâmplător am menționat aceste două exemple domeniul financiar-bancar și domeniul medical. Acestea sunt niște domenii foarte reglementate. Ele sunt poate printre cele mai reglementate domenii din foarte multe zone de companii și de industrii.
Cristina Cileacu: Sunt și strategice.
Gabriela Popescu: Sunt și strategice, însă, pentru că au văzut beneficiul folosirii instrumentelor de inteligență artificială în cadrul legal evident pe care îl au fiecare dintre ele, au reușit să-și îmbunătățească procese și au reușit să-și îmbunătățească interacțiunea cu clienții prin adopția sănătoasă, coerentă, de inteligență artificială în companiile lor.
România pierde cursa digitalizării
Cristina Cileacu: În România suntem foarte obișnuiți ca lucrurile să se miște încet sau foarte încet. În domeniul digitalizării nu ne mai putem permite să rămânem în urmă de tot. Ce riscăm la nivel de nu știu întreprinderi mici și mijlocii, la nivel de stat în sine, tocmai pentru că ne mișcăm atât de lent comparativ cu restul Europei. Să ne limităm doar la Europa.
Gabriela Popescu: Pierdem competitivitate față de țările din jurul nostru și am menționat, s-a menționat din raportul referitor la procentul de adopție, de tool-uri de instrumente de inteligență artificială, că țările Cehia, Ungaria, Polonia au peste 30%, 31, 32, 33 procente de adopție de instrumente de inteligență artificială, în categoria de persoane 18-65 de ani, forța de muncă, iar noi avem 18%. Ne poziționează, ne pierdem din competitivitate ca țară. Rămânem în urmă. Nu reușim să avansăm și să avem ritmul de dezvoltare pe care cei din jurul nostru îl au. Nu mai suntem competitivi atunci când România este evaluată ca o țară de potențial investiții față de celelalte țări, în momentul în care pregătirea în domeniul tehnologiei, a cetățenilor, și am menționat că aveam cel mai scăzut nivel din Europa, și adopția de tehnologie și de instrumente de inteligență artificială ne poziționează într-un loc mai puțin atractiv față de țările din jurul nostru.
AI nu fură joburile, le transformă
Cristina Cileacu: Lumea este, să spunem, speriată de o serie de titluri apocaliptice, dar nu doar titluri, pentru că sunt și declarații ale liderilor din companiile care produc inteligență artificială, că AI-ul ne va înlocui. Locurile noastre de muncă, multe dintre ele vor dispărea și vom fi înlocuiți de roboți. Cum puteți să le răspundeți cetățenilor să înțeleagă că viața continuă și că AI-ul doar ajută, nu ne face să dispărem?
Gabriela Popescu: E o temere rezonabilă, nu este o temere artificială, pentru că vorbim de inteligența artificială, este o temere rezonabilă. Trebuie să ne uităm la utilizarea de inteligență artificiale, de instrumente de inteligență artificială, ca un proces de schimbare. Locurile de muncă nu dispar, ele se transformă. Ce poate să facă un instrument de inteligență artificială pentru mine, ca organizație sau ca persoană, dacă el este folosit corect, dacă el este inclus în niște procese și nu pus deasupra unei structuri, fără a înțelege exact ceea ce urmăresc. Poate să mă ajute cu acele acel tip de activității repetitive, așa cum am spus, care îmi iau foarte mult timp, dar unde nu aduc neapărat valoare și pot să folosesc un tool de inteligență artificială pentru a mă ajuta să sumarizez, pentru a-mi aduna informații. Putem să câștigăm până la două ore pe zi din eliminarea acestor activități repetitive, două ore pe care putem să le folosim pentru acea zonă de activitate unde aducem cu adevărat valoare sau pentru alte activități pe care vrem să le desfășurăm noi în activitatea noastră. Potrivit datelor pe care le avem de la World Economic Forum, până în anul 2030, 170 de milioane de locuri de muncă noi vor apărea ca impact direct al folosirii instrumentelor de inteligență artificială, în timp ce 92 de milioane de locuri de muncă vor dispărea. Dar aceste cifre ne duc la un plus de peste 70 de milioane de locuri de muncă apărute ca urmare a schimbării schimbărilor din domeniul tehnologiei, Ceea ce se va schimba, de asemenea. Însă avem aici un procent aproximativ 40 la sută este contentul locurilor de muncă actuale, responsabilitățile pe care locurile de muncă actuale le au vor înregistra o schimbare datorită tehnologiei și avansului acestora. Deci locurile de muncă nu dispar, însă noi…
Cristina Cileacu: Se transformă.
Gabriela Popescu: Se transformă și noi trebuie să ne adaptăm și să învățăm ce se întâmplă cu tehnologia și să o includem în activitatea noastră de zi cu zi.
Reglementarea AI, contra cronometru
Cristina Cileacu: Am început discuția noastră vorbind despre etică și poate nu toate companiile care produc tehnologie folosesc etica în produsele pe care le dezvoltă. Dar aș vrea să vorbim și despre reglementare, pentru că, spuneați mai devreme, inteligența artificială există, e folosită, e deja integrată. Categoric, nu putem să mai facem un pas înapoi în ceea ce privește aceste instrumente. Mai putem însă să reglementăm pe termen lung, pentru că vedem, există eforturi în Statele Unite, la nivelul Uniunii Europene, poate mai puțin în lumea autocrată, care, de asemenea, dezvoltă inteligența artificială. Dar aș vrea să vă întreb cât de mult mai putem reglementa, pentru că remarcăm faptul că inteligența artificială este foarte mult folosită împotriva omului. Și aici mă refer mai ales la zona aceasta de război hibrid, dezinformare și utilizare a inteligenței artificiale să ne facă rău.
Gabriela Popescu: Îți mulțumesc pentru această întrebare care este foarte importantă. Aș începe spunând că ceea ce știm astăzi despre inteligența artificială nu știam acum trei ani sau acum doi ani și că lucrurile evoluează foarte rapid, cu atât mai mult pentru că există această evoluție foarte rapidă. Este absolut esențial ca tot ceea ce este legat de inteligența artificială să fie reglementat. Avem nevoie de reglementări clare, avem nevoie de reglementări care să evolueze în funcție de cum evoluează tool-urile, instrumentele de inteligență artificială, pentru a ne asigura, în primul rând că decizia stă la noi, la oameni, că este o UE, că inteligența artificială este și va fi întotdeauna un instrument, o formă de tehnologie care mă ajută să îmi formez o opinie, dar care nu ia decizii în locul meu, care nu face schimbări în locul meu, ci că eu, că noi, oamenii, suntem cei care luăm decizii, avem nevoie de reglementare pentru a ne asigura că instituțiile, companiile care creează instrumente de inteligență artificială nu o folosesc în scopuri negative, în scopuri rele. Că nu folosesc inteligența artificială pentru scopuri de război. Inteligența artificială avansează, este este un domeniu care se schimbă foarte repede și de aceea și cei care reglementează inteligența artificială și acest tip de tehnologie vor trebui să fie activi și alerți pentru a ne asigura că orice fel de cod pe care îl avem, orice lege pe care o avem în spatele inteligenței artificiale reflectă ritmul dezvoltării tehnologiei și întotdeauna suntem protejați și ne asigurăm că inteligența artificială este folosită pentru binele nostru și nu împotriva noastră.
Cristina Cileacu: Să sperăm că, într-adevăr, aceste reglementări vor fi funcționale cât mai rapid și că oamenii, omenirea va fi protejată, iar inteligența artificială rămâne, cum spuneați, doar un instrument de care să ne folosim. Gabriela Popescu, vă mulțumesc foarte mult pentru acest interviu.
Gabriela Popescu: Mulțumesc și eu.
About the Author
