Inteligența artificială se extinde rapid în mediul de lucru, iar angajații folosesc tot mai multe instrumente pentru a-și crește productivitatea. Utilizarea acestor servicii în afara sistemelor aprobate creează însă o problemă importantă pentru companii. Fenomenul este cunoscut drept „shadow AI”, scrie TechRadar.
Acest fenomen apare atunci când angajații folosesc instrumente AI fără aprobarea organizației. În astfel de situații, departamentele IT pot pierde vizibilitatea asupra datelor și proceselor care implică aceste servicii.
Utilizarea neautorizată a AI se extinde
Cererea pentru instrumente mai rapide și mai eficiente contribuie la creșterea fenomenului. Datele prezentate în analiză arată o diferență importantă între percepția conducerii și comportamentul angajaților.
90% dintre directori spun că au o imagine clară asupra instrumentelor AI utilizate în organizație. În schimb, 52% dintre angajați recunosc că folosesc servicii AI fără aprobare.
În multe cazuri, aceste servicii sunt accesate prin conturi personale. Companiile ajung astfel să aibă mai puțin control asupra datelor introduse în respectivele platforme.
Diferența dintre adoptarea AI și regulile de guvernanță devine tot mai mare. Problema poate deveni mai serioasă pe măsură ce instrumentele AI ajung să controleze procese importante.
Agenții AI pot amplifica riscurile
Utilizarea AI fără supraveghere poate permite ocolirea procedurilor de securitate. Riscurile includ erori, încălcări ale reglementărilor și expunerea unor informații sensibile.
Problemele sunt mai importante atunci când AI influențează activități esențiale. Printre acestea se află serviciile pentru clienți, dezvoltarea software și deciziile operaționale.
O nouă etapă este reprezentată de sistemele agentice. Acestea pot diagnostica probleme, recomanda acțiuni și executa anumite sarcini cu intervenție umană redusă.
Un agent utilizat fără aprobarea companiei ar putea executa acțiuni nedorite. Organizația ar putea afla prea târziu ce s-a întâmplat.
Există și un risc pe termen lung legat de calitatea datelor. Utilizarea unor date sintetice sau de calitate slabă poate afecta performanța sistemelor AI.
Guvernanța trebuie să permită inovația
Companiile nu pot rezolva problema doar prin interdicții. O strategie eficientă trebuie să permită utilizarea AI, dar cu reguli clare și verificabile.
Un prim pas este crearea unei liste de instrumente aprobate. Angajații trebuie să aibă acces simplu la servicii sigure pentru cele mai comune activități.
Regulile ar trebui să stabilească ce date pot fi utilizate și ce informații nu pot fi distribuite. De asemenea, trebuie precizat când este obligatorie aprobarea unei persoane.
Sarcinile cu risc redus nu trebuie tratate la fel ca deciziile care implică date despre clienți. Același principiu se aplică informațiilor reglementate sau proceselor esențiale pentru companie.
Instruirea angajaților are un rol important
Regulile nu sunt suficiente dacă angajații nu înțeleg motivele din spatele lor. Companiile trebuie să ofere instruire privind utilizarea responsabilă a instrumentelor AI.
Această nevoie devine mai importantă pe măsură ce agenții AI capătă mai multă autonomie. Procesele de aprobare și supraveghere trebuie să evolueze în același ritm.
Interoperabilitatea va avea, de asemenea, un rol important. Companiile folosesc mai multe modele și operează în jurisdicții diferite.
Un sistem de guvernanță eficient trebuie să funcționeze în aceste condiții. Organizațiile nu ar trebui să reconstruiască aceleași proceduri pentru fiecare model sau regiune.
Instrumentele aprobate trebuie să fie ușor de folosit
Angajații ajung la Shadow AI și atunci când soluțiile aprobate sunt greu de accesat. Lipsa unor alternative eficiente poate determina utilizatorii să caute servicii externe.
O strategie bazată exclusiv pe restricții poate împinge utilizarea AI și mai mult în afara controlului companiei. Organizațiile riscă astfel să piardă atât vizibilitatea, cât și beneficiile acestei tehnologii.
Companiile ar trebui să identifice mai întâi modul în care AI este deja utilizat. Ulterior, pot oferi alternative aprobate pentru cele mai frecvente cazuri.
Dezvoltarea competențelor AI este un alt factor important. Trei sferturi dintre angajații din mediul de birou spun că ar lua în calcul schimbarea locului de muncă pentru oportunități mai bune de dezvoltare a acestor competențe.
Guvernanța poate susține adoptarea AI
Companiile care vor gestiona eficient această tranziție trebuie să trateze guvernanța drept o componentă a strategiei AI. Scopul nu este blocarea tehnologiei, ci reducerea riscurilor.
O infrastructură clară și instrumente aprobate pot face utilizarea sigură mai simplă pentru angajați. În acest fel, compania poate păstra avantajele AI fără să piardă controlul asupra datelor.
Shadow AI este, în multe cazuri, un semnal al unei cereri care nu a primit încă un răspuns. Organizațiile care oferă instrumentele potrivite și instruirea necesară pot reduce utilizarea neautorizată.
În acest model, securitatea și productivitatea nu trebuie să fie obiective opuse. O guvernanță bine construită poate permite extinderea AI într-un mod controlat și transparent.
About the Author
