Încă un avertisment pentru oricine crede că discuțiile cu IA sunt private: un om ar putea vedea ce încărcați. Un raport publicat de 404 Media arată cum anumiți contractori examinează fotografiile utilizatorilor Copilot, cererile de editare și imaginile generate de Copilot. Uneori, ceea ce văd este tulburător și potențial ilegal.
Multe dintre cereri au caracter sexual, iar unele implică minori, conform raportului. Fețele din fotografiile originale nu sunt cenzurate, ceea ce înseamnă că evaluatorii pot identifica persoanele din imagini.
– articolul continuă mai jos –
Solicitările de editare și rezultatele pe care evaluatorii trebuie să le analizeze includ cereri de scurtare a fustelor, mărire a anumitor părți ale corpului și plasare a persoanelor în ipostaze sexuale. În multe cazuri, modificările par realizate fără consimțământ. De exemplu, un contractor a menționat că a primit spre evaluare seturi de fotografii realizate pe sub fustă. Altul a precizat că i s-a cerut să evalueze imagini cu fetișuri ale picioarelor care implicau personaje din desene animate pentru copii. Utilizatorii au cerut asistentului Copilot să creeze imagini cu persoane celebre care suferă de anorexie. De asemenea, pe biroul unui evaluator au ajuns imagini cu sacrificii de animale.
Persoanele intervievate au declarat pentru 404 Media că evaluatorii sunt plătiți exclusiv pentru a verifica calitatea finală a unei imagini, nu pentru a semnala conținutul inadecvat. Aceștia verifică dacă instrucțiunile au fost urmate, dacă anumite părți ale imaginii au fost păstrate sau distorsionate și analizează aspectul vizual general. Evaluatorii nu formulează verdicte juridice sau de siguranță cu privire la conținut.
Microsoft utilizează datele clienților din anumite conturi pentru optimizarea produselor sale. Totuși, la solicitarea 404 Media, compania nu a precizat dacă utilizatorii pot exclude fișierele încărcate din aceste sarcini de evaluare.
În secțiunea de întrebări frecvente privind confidențialitatea pentru versiunea anterioară a Copilot destinată consumatorilor, Microsoft menționează că păstrează conversațiile timp de 18 luni în mod implicit, deși utilizatorii le pot șterge oricând. De asemenea, compania precizează că poate utiliza date, „inclusiv imaginile sau fișierele pe care le încărcați”, pentru antrenarea modelelor IA. Utilizatorii eligibili pot renunța la antrenare, dar documentul arată clar că nu există opțiunea de a refuza evaluările efectuate de oameni. Textul oficial nu clarifică dacă această regulă include și sarcinile de evaluare a imaginilor.
Microsoft susține că versiunea actualizată a aplicației Copilot pentru consumatori, disponibilă din 18 august, nu folosește solicitările, răspunsurile sau fișierele încărcate pentru antrenarea modelelor de bază. Rămâne totuși deschisă o întrebare esențială pentru Microsoft: pot utilizatorii să excludă fișierele încărcate din fluxul de evaluare umană a imaginilor?
Raportul nu indică numărul exact al colaboratorilor care au acces la fișierele utilizatorilor și nici ponderea solicitărilor de editare analizate de oameni. În plus, investigația nu confirmă dacă utilizatorii primesc o notificare explicită, la momentul încărcării, cu privire la posibilitatea ca un om să le vizualizeze materialele.
Aceste detalii lasă fără răspuns problemele legate de gestionarea metadatelor și eficiența filtrelor automate în blocarea conținutului interzis înainte ca acesta să ajungă la verificarea manuală a calității.
Angajați din interiorul Microsoft au atras atenția în trecut asupra riscului ca sistemul Copilot să genereze imagini nepotrivite.
La începutul anului 2024, inginerul de învățare automată Shane Jones și-a exprimat public îngrijorarea cu privire la vulnerabilitățile filtrelor de protecție integrate în instrumentul de conversie text-imagine DALL-E 3. Acesta ceruse companiei retragerea serviciului Copilot Designer din uzul public timp de trei luni, însă a menționat că Microsoft a respins solicitarea. Echipa responsabilă primea zilnic peste 1.000 de sesizări legate de produs și intervenea doar la cele mai grave incidente, a declarat inginerul pentru CNBC la acel moment.
În aceeași perioadă, Microsoft a remediat o breșă de securitate din Copilot Designer care permitea generarea de imagini deepfake cu tentă sexuală reprezentând celebrități, fără acordul acestora.
Microsoft nu este singura companie care recurge la colaboratori externi pentru verificarea conversațiilor generate prin IA. OpenAI derulează o procedură similară în cadrul programului „Project Lily”.
În cazul utilizării funcțiilor de editare a imaginilor din Copilot, solicitările introduse și fotografiile încărcate pot fi vizualizate direct de operatori umani, fără a rămâne exclusiv în sarcina algoritmilor. Termenii de utilizare stabiliți de Microsoft permit această practică, deși condițiile exacte și amploarea verificării umane nu sunt comunicate clar în momentul încărcării fișierelor.
Până când Microsoft va prezenta reguli explicite despre filtrele automate preliminare și declanșarea evaluării umane, orice imagine trimisă către un serviciu comercial de IA trebuie considerată accesibilă unei persoane. În acest context, controlul direct asupra datelor cu caracter personal devine esențial în orice interacțiune digitală.
About the Author
