Uniunea Europeană a conturat un set detaliat de reguli pentru transparența conținutului generat sau modificat cu inteligență artificială. Noul „Cod de bune practici privind transparența conținutului generat de IA” explică modul în care furnizorii de sisteme AI și companiile care folosesc astfel de sisteme ar trebui să marcheze, detecteze și eticheteze conținutul sintetic. Se dorește astfel crearea unui lanț de trasabilitate: conținutul AI trebuie să poată fi marcat tehnic, detectat ulterior, explicat utilizatorilor și afișat într-un mod clar la prima expunere. Normele privind transparența din Regulamentul privind IA vor intra în vigoare în august 2026.
Ce este codul de bune practici pentru conținut AI
Codul este gândit ca un ghid pentru aplicarea obligațiilor de transparență din Articolul 50 al AI Act (Regulamentul privind IA). El acoperă două zone diferite, dar conectate: furnizorii de sisteme AI generative și cei care folosesc AI pentru a publica sau distribui conținut către oameni. Prima secțiune se adresează furnizorilor de sisteme AI care generează text, imagine, video sau audio. În această categorie pot intra dezvoltatori de modele AI, servicii de generare de imagini, platforme de voice cloning sau aplicații de generare text. Aceștia trebuie să marcheze rezultatele produse de sistemele lor într-un format „machine-readable”, adică într-o formă pe care software-ul o poate citi automat.
A doua secțiune vizează „deployerii”, adică organizațiile sau persoanele care folosesc sisteme AI pentru a genera sau modifica conținut prin metode deepfake, ori texte publicate cu scopul de a informa publicul pe teme de interes public. Aici intră companii, platforme, agenții, instituții, creatori de conținut, media sau alte organizații care folosesc AI în fluxurile lor de lucru. Pentru ei, accentul cade pe etichete vizibile, iconițe, disclaimere audio și reguli de plasare.
Pe scurt, furnizorul trebuie să facă posibilă marcarea și detectarea tehnică, iar deployerul trebuie să se asigure că oamenii văd sau aud clar că materialul este generat sau modificat cu AI, atunci când legea cere acest lucru.
Important este că aderarea la Cod nu reprezintă automat dovadă finală de conformitate. Documentul publicat de Comisia Europeană spune explicit că funcționează ca un ghid pentru demonstrarea conformării, iar autoritățile competente pot verifica dacă măsurile sunt suficiente.
De ce vrea UE aceste reguli
Motivul pentru aceste reguli este simplu: conținutul generat de AI devine tot mai greu de distins de conținutul creat de oameni. Imaginile sintetice, vocile clonate, clipurile video manipulate și textele automate pot părea autentice, ceea ce crește riscurile de dezinformare, fraudă, impersonare și manipulare la scară mare. Codul nu susține că o etichetă AI spune dacă un conținut este adevărat sau fals. Eticheta indică originea artificială sau rolul AI în modificarea conținutului. Este o diferență importantă: un material AI poate fi corect, iar un material uman poate fi fals.
Scopul este ca utilizatorul să știe cu ce interacționează. Dacă vede un clip cu o persoană publică, o fotografie aparent reală sau un text despre un subiect de interes public, ar trebui să poată afla rapid dacă AI a avut un rol semnificativ în crearea sau modificarea acelui material.
Ce trebuie să facă furnizorii de sisteme AI
Pentru furnizori, regula centrală este marcarea machine-readable a conținutului generat sau manipulat. Codul spune că, în stadiul actual al tehnologiei, o singură metodă de marcare nu este suficientă în majoritatea cazurilor, mai ales pentru conținut care poate circula online. De aceea, documentul recomandă o abordare multi-layered, adică folosirea a cel puțin două straturi tehnice de marcare.
Primul strat este format din metadate semnate digital. Acestea pot indica faptul că un fișier audio, o imagine, un video sau un document conține material generat ori modificat cu AI. Semnătura digitală și timestamp-ul au rolul de a face metadatele mai greu de falsificat.
Al doilea strat este watermarkul imperceptibil. Spre deosebire de o siglă vizibilă, watermarkul este ascuns în conținut și ar trebui să rămână detectabil chiar după anumite modificări, cum ar fi compresia, schimbarea formatului, crop-ul sau alte procesări obișnuite.
Codul menționează și metode opționale, precum fingerprinting sau logging. Fingerprinting-ul creează o amprentă tehnică a conținutului, iar logging-ul presupune înregistrarea anumitor rezultate pentru verificări ulterioare. Documentul oficial subliniază însă că aceste metode trebuie folosite cu grijă, pentru că pot ridica probleme de confidențialitate și securitate.
Ce este un „watermark” pentru text
Pentru imagini, audio și video, ideea de watermark este relativ intuitivă. Pentru text, lucrurile sunt mai complicate, deoarece textul liber nu transportă metadate în mod natural. Codul face o distincție între „free-form text” și „containerised text”.
Free-form text înseamnă text simplu, cum este cel afișat într-un chat sau pe o pagină web. Containerised text înseamnă text aflat într-un format structurat, cum ar fi un PDF, un document Word sau HTML, unde se pot atașa metadate. Pentru text liber mai lung de 200 de tokens, documentul cere aplicarea unui watermark, chiar dacă nivelul de acuratețe al marcării poate fi mai scăzută decât în cazul textelor foarte lungi. Pentru texte foarte scurte, sub pragul de 200 de tokens menționat în document, watermarking-ul poate fi tehnic dificil sau imposibil cu un nivel rezonabil de încredere.
Aceasta este una dintre cele mai importante limite tehnice ale întregului sistem. Un slogan, o frază scurtă sau o postare foarte scurtă pot fi greu de marcat, iar detecția poate produce rezultate cu încredere redusă.
Detecția trebuie să fie accesibilă, nu doar posibilă
Marcarea conținutului nu este suficientă dacă nimeni nu poate verifica marcajul. De aceea, Codul cere furnizorilor să pună la dispoziție soluții de detecție.
Aceste soluții pot lua mai multe forme: specificații publice, software standalone, biblioteci tehnice sau servicii cloud accesibile prin API. În mod ideal, ele trebuie să poată fi folosite de utilizatori, integratori, autorități, cercetători, organizații media, fact-checkeri și societate civilă.
Regula de bază este că soluțiile de detecție ar trebui puse la dispoziție gratuit. Există o excepție limitată pentru furnizorii cu mai puțin de 1 milion de utilizatori lunari, dacă detecția implică costuri operaționale mari și un anumit utilizator trimite volume mari de cereri.
Chiar și în acest caz, accesul trebuie să rămână gratuit și fără limită de volum pentru autorități, reglementatori, forțele de ordine, media, fact-checkeri, cercetători independenți, instituții educaționale și organizații ale societății civile.
Ce se întâmplă cu datele încărcate pentru verificare
Codul introduce cerințe clare de confidențialitate pentru serviciile de detecție. Dacă un utilizator încarcă o imagine, un clip sau un document pentru verificare, conținutul trebuie tratat ca sensibil. Furnizorii trebuie să asigure confidențialitatea și integritatea datelor în tranzit și în stocare. Principiul este data minimisation: serviciul nu trebuie să colecteze sau să păstreze mai multe date decât sunt necesare pentru detecție.
Documentul vorbește explicit despre o politică de zero retention. Conținutul încărcat pentru verificare trebuie șters imediat după finalizarea detecției, cu excepția unor date minime necesare pentru securitate sau prevenirea abuzurilor, dacă există o bază legală validă.
Această prevedere contează pentru jurnaliști, companii și utilizatori obișnuiți. Un instrument de verificare AI nu ar trebui să devină o bază de date cu documente private, fotografii sensibile sau materiale confidențiale.
Ce standarde trebuie să respecte marcarea AI
Codul folosește patru criterii principale pentru soluțiile de marcare și detecție: eficiență, fiabilitate, robustețe și interoperabilitate.
Eficiența înseamnă că rezultatul detecției trebuie să fie util pentru oameni. Nu ajunge ca un sistem să afișeze un cod tehnic greu de înțeles; utilizatorul trebuie să poată înțelege dacă materialul este generat sau modificat cu AI.
Prin fiabilitate se face referire la acuratețe. Un sistem bun trebuie să identifice corect conținutul AI și să evite atât falsele pozitive, cât și falsele negative. Un fals pozitiv poate eticheta greșit un material uman ca fiind AI, iar un fals negativ poate rata un deepfake real.
Robustețea înseamnă rezistență la modificări obișnuite și atacuri deliberate. Codul de bune practici menționează exemple precum recompresie, screenshot, screencasting, crop, redimensionare, rotație, modificare de tonalitate, parafrazare, traducere sau înregistrarea cu o cameră a unui ecran.
Interoperabilitate înseamnă că soluțiile trebuie să funcționeze între sisteme diferite, nu doar în interiorul ecosistemului unui singur furnizor. Până la 2 februarie 2027, semnatarii trebuie să implementeze o soluție de interoperabilitate pentru mecanismele de detecție a watermarkurilor, fie prin standarde comune, fie prin soluții comune de tip consorțiu.
Ce trebuie să facă cei care publică conținut generat de sau modificat cu AI
A doua secțiune a Codului se referă la deployeri. Aceștia trebuie să dezvăluie clar când publică deepfake-uri sau texte generate ori manipulate cu AI pe teme de interes public, dacă acele texte nu au trecut printr-un proces de aprobare umană sau printr-un control editorial.
Un deepfake este definit ca imagine, audio sau video generat ori manipulat cu AI care seamănă cu persoane, obiecte, locuri, entități sau evenimente existente și care ar putea părea autentic sau adevărat pentru o persoană. Pentru astfel de conținut, Codul recomandă folosirea unei iconițe europene sau a unei etichete echivalente. Anexa documentului arată trei variante principale: „AI GENERATED” pentru conținut generat complet, „AI MODIFIED” pentru conținut modificat parțial și o iconiță simplă „AI” care poate fi însoțită de informații suplimentare.
Aceste etichete nu trebuie ascunse într-un meniu secundar. Ele trebuie să fie clare, vizibile, ușor de recunoscut și disponibile cel târziu la prima expunere a utilizatorului la conținut.
Unde trebuie pusă eticheta AI
Codul oferă multe detalii de design și plasare. Pentru imagini și video, eticheta poate fi plasată, de exemplu, în colțul din dreapta sus, cu condiția să nu fie acoperită de alte elemente vizuale.
Pentru video, eticheta trebuie afișată la început și, unde este posibil, la intervale regulate. Ea trebuie să apară din nou după întreruperi, cum ar fi pauze publicitare. Motivul din spatele acestei decizii este că oamenii pot vedea doar un fragment, iar clipurile pot fi decupate și redistribuite.
Pentru conținutul audio, fără video, trebuie adăugat un disclaimer audio scurt, la începutul materialului. În cazul conținutului lung sau live, Codul recomandă repetarea acestuia la intervale regulate, pentru ca ascultătorii care intră mai târziu să fie informați.
Pentru texte, iconița sau eticheta trebuie plasată într-un loc evident: deasupra textului, lângă titlu sau în zona de început. Dacă doar o parte din text este generată sau modificată cu AI, poate fi etichetată doar acea parte, dacă soluția este clară pentru cititor.
Ce se întâmplă cu presa și textele editoriale
Una dintre cele mai importante clarificări pentru industria media este excepția legată de verificare umană și controlul editorial. Pentru textele generate sau manipulate cu AI și publicate pentru a informa publicul pe teme de interes public, obligația de marcare nu se aplică dacă materialul a fost citit și aprobat de o persoană umană. În acest caz o persoană fizică sau juridică își asumă responsabilitatea editorială pentru textele generate cu AI publicate. Asta înseamnă că instituțiile de presă care folosesc AI ca instrument intern se încadrează în această excepție. Codul precizează că furnizorii de servicii media pot folosi procedurile și standardele profesionale existente, dacă acestea respectă cerințele din AI Act.
Această excepție nu trebuie interpretată ca o invitație la opacitate. Ea recunoaște faptul că produsul editorial final este asumat de o redacție, nu publicat automat de un sistem AI fără control uman.
Excepții pentru operele artistice, satirice sau ficționale?
Codul prevede un regim special pentru deepfake-urile care fac parte din opere evident artistice, creative, satirice, ficționale sau similare.
În aceste cazuri, marcarea trebuie făcută într-un mod care nu strică afișarea, experiența sau exploatarea normală a operei. Cu alte cuvinte, un film, un spectacol, o instalație artistică sau o satiră vizuală nu trebuie sufocate de etichete intruzive. Eticheta poate apărea în note, descriere, credite de început sau final, interfață, bilet, ambalaj, material de prezentare sau punct de intrare. Condiția rămâne ca publicul să fie informat clar.
Ce trebuie să facă platformele online
Platformele online și motoarele de căutare nu sunt tratate doar ca spectatori. Codul le încurajează să păstreze metadatele conținutului AI și să ofere interfețe care îi ajută pe deployeri să respecte obligațiile de etichetare.
De exemplu, o platformă video ar putea introduce o opțiune de marcare la upload, iar o rețea socială ar putea afișa iconița AI direct peste conținut. Pentru platformele mari, logica este apropiată de obligațiile de reducere a riscurilor deja existente în Digital Services Act. Asta va conta mai ales pentru fluxurile virale. O etichetă pusă corect la publicarea inițială își pierde valoarea dacă dispare la repostare, compresie, crop sau redistribuire pe altă platformă.
Ce trebuie să facă o companie ca să fie pregătită
Pentru organizațiile care folosesc AI în comunicare, marketing, training, media, suport clienți sau conținut public, Codul sugerează o schimbare de proces, nu doar de interfață.
O companie ar trebui să știe cel puțin următoarele lucruri:
- ce sisteme AI folosește pentru text, imagine, video sau audio
- dacă rezultatele sunt publicate, distribuite intern sau folosite în contexte sensibile
- cine aprobă publicarea conținutului AI
- dacă există aprobare umană sau control editorial
- cum este etichetat conținutul generat sau modificat cu AI
- dacă eticheta rămâne vizibilă la repostare, export sau integrare în alte formate
- cum pot utilizatorii sau terții semnala lipsa unei etichete
- ce procedură există pentru corectarea materialelor etichetate greșit
Codul cere procese interne proporționale cu dimensiunea și resursele organizației. Nu se așteaptă același nivel de documentație de la un startup mic și de la o platformă cu sute de milioane de utilizatori, dar principiul rămâne același: cine folosește AI pentru conținut vizibil publicului trebuie să poată explica și controla utilizarea.
Ce nu rezolvă aceste reguli
Codul nu rezolvă problema adevărului. O etichetă AI nu dovedește că un material este fals, după cum lipsa unei etichete nu dovedește că un material este autentic. De asemenea, nu rezolvă nici complet problema conținutului manipulat intenționat. Watermarkurile pot fi atacate, metadatele pot fi eliminate, iar materialele pot trece prin capturi de ecran, înregistrări analogice sau editări succesive, care să le ascundă până la urmă. Codul recunoaște aceste limite și cere robustețe doar în măsura în care este fezabil tehnic.
De asemenea, detectarea conținutului AI fără un marcaj prealabil, este tratată ca opțională și încă insuficient de matură pentru a garanta singură conformarea. UE nu mizează doar pe detectoare AI universale, pentru că acestea nu sunt suficient de robuste.
De ce contează pentru utilizatori
Pentru utilizatorul obișnuit, efectul ar trebui să fie o informare mai bună asupra conținutului pe care îl consumă online. Mai multe materiale generate sau modificate cu AI vor veni cu semnale vizibile sau verificabile. Când cineva vede o imagine, un clip, ascultă o înregistrare audio sau citește un text, ar trebui să poată afla dacă AI a fost implicat. Uneori informația va fi vizibilă direct, printr-o etichetă. Alteori va fi verificabilă prin metadate, watermark sau un serviciu de detecție.
Problema este că experiența va depinde mult de implementare. Dacă etichetele sunt clare și standardizate, ele pot ajuta. Dacă devin prea multe, prea mici, ascunse sau inconsistent folosite, publicul le va ignora rapid.
De ce contează pentru piața AI
Pentru companiile AI, Codul introduce costuri și obligații tehnice care nu pot fi tratate ca un detaliu de final. Marcarea trebuie integrată în produs, în model, în export, în API, în documentație și în mecanismele de detecție.
Pentru startupuri, documentul promite proporționalitate, dar nu elimină presiunea. Furnizorii mici vor trebui să se bazeze probabil pe standarde deschise, soluții third-party sau infrastructuri comune, pentru că dezvoltarea unui sistem propriu de watermarking, detecție și interoperabilitate poate fi costisitoare.
Pentru marile platforme, standardizarea poate deveni un avantaj. Cine controlează fluxurile de distribuție poate integra etichetele AI direct în upload, feed, search și recomandări. Acolo se va decide dacă transparența devine practică reală sau doar conformare formală.
UE vrea o infrastructură de transparență, nu doar o etichetă
Codul de bune practici privind transparența conținutului generat de IA arată că UE încearcă să construiască o infrastructură de transparență pentru conținutul sintetic. Cea mai importantă idee este separarea rolurilor. Furnizorii AI trebuie să facă posibilă marcarea și detecția, iar cei care publică sau distribuie conținutul trebuie să îl eticheteze clar atunci când oamenii sunt expuși la el.
A doua idee importantă este că transparența în conținutul generat cu AI este un exercițiu complex. Nu există o soluție tehnică unică, perfectă și definitivă. Codul admite limitele tehnologiei și împinge piața spre soluții combinate, interoperabile și testabile. Epoca în care materialele sintetice puteau circula ca și cum ar fi fost complet „naturale” s-ar putea apropia de sfârșit, cel puțin în spațiul reglementat european.
About the Author
