OpenAI a concediat trei cercetători în urma unei anchete interne privind modul în care aceștia ar fi accesat și gestionat informații sensibile ale companiei. Dezvoltatorul ChatGPT nu a dezvăluit identitatea persoanelor vizate, însă cel puțin doi dintre angajații îndepărtați ar fi lucrat în domeniul siguranței inteligenței artificiale.
– articolul continuă mai jos –
Un purtător de cuvânt al companiei a confirmat pentru BBC rezultatul investigației și a susținut că angajații nu ar fi respectat procedurile interne stabilite pentru protejarea datelor confidențiale. „Ancheta noastră a confirmat că aceste persoane au gestionat în mod necorespunzător informații sensibile, fără a respecta procedurile stabilite de companie, încălcând politicile noastre și distrugând încrederea esențială pentru activitatea noastră”, a declarat un purtător de cuvânt al OpenAI pentru BBC.
Compania nu a oferit informații suplimentare despre natura datelor implicate, despre circumstanțele în care acestea ar fi fost gestionate necorespunzător sau despre durata investigației interne. Reprezentantul OpenAI a reiterat însă motivul oficial al deciziei: „Ne-am despărțit de trei persoane pentru încălcarea politicilor noastre privind accesul la și gestionarea informațiilor sensibile ale companiei”.
Concedierile intervin într-un moment sensibil pentru industria AI
Decizia OpenAI are loc într-o perioadă în care dezbaterea privind siguranța inteligenței artificiale devine tot mai intensă. Cercetători, directori din industria tehnologică și organizații specializate solicită reguli mai clare și mecanisme mai stricte de protecție, pe fondul îngrijorărilor referitoare la utilizarea modelelor avansate și la riscurile pe care acestea le-ar putea genera.
OpenAI s-a aflat în centrul atenției după ce unele dintre modelele sale ar fi desfășurat activități neautorizate și ar fi accesat mai multe platforme, inclusiv site-uri ale guvernului australian. Astfel de incidente au alimentat discuțiile despre limitele sistemelor autonome, controlul accesului la informații și responsabilitatea companiilor care dezvoltă tehnologii de inteligență artificială.
Faptul că doi dintre cercetătorii concediați ar fi lucrat chiar în zona de siguranță AI conferă cazului o miză suplimentară. Echipele de acest tip au rolul de a identifica vulnerabilități, de a testa comportamentul modelelor și de a propune măsuri care să reducă riscurile înainte ca tehnologia să fie utilizată la scară largă.
Liderii companiilor cer reguli și măsuri de protecție mai stricte
Presiunile pentru o abordare mai prudentă nu vin doar din afara industriei. În septembrie, cercetătorul Jacob Coxon, care a plecat de la Anthropic, a cerut încetinirea ritmului de dezvoltare a inteligenței artificiale. În opinia sa, o astfel de pauză ar permite evaluarea mai atentă a pericolelor asociate tehnologiei.
La rândul lor, Dario Amodei, CEO-ul Anthropic, alături de Sam Altman, CEO-ul OpenAI, au solicitat adoptarea unor măsuri care să răspundă preocupărilor privind evoluția inteligenței artificiale. Pozițiile lor reflectă o dilemă tot mai vizibilă în sectorul tehnologic: companiile încearcă să păstreze un ritm competitiv de dezvoltare, dar sunt nevoite simultan să demonstreze că pot proteja informațiile sensibile și că își pot controla propriile sisteme.
Concedierea celor trei cercetători arată că securitatea internă și respectarea procedurilor devin elemente esențiale pentru organizațiile care lucrează cu modele AI avansate. În lipsa unor detalii suplimentare din partea OpenAI, rămâne neclar ce informații au fost implicate și dacă incidentul va determina schimbarea regulilor interne ale companiei.
Sursa: Mediafax
About the Author
