Dacă încă nu ai nicio problemă să postezi poze cu copiii tăi pe rețelele sociale, folosește câteva minute să parcurgi povestea unei mame a doi copii din SUA.
Aceasta, pe nume Kalie Robins, a fost îngrozită după ce IA Meta a început să furnizeze detalii personale despre fiicele ei mici, inclusiv numele și datele de naștere ale acestora, și a încercat să identifice locul în care locuia familia, în timp ce, se pare, a scos la iveală o fotografie pe care ea susține că o ștersese cu ani în urmă, potrivit Futurism.
– articolul continuă mai jos –
Postarea unui clip pe Instagram a generat crearea de profiluri detaliate ale copiilor
Utilizatoarea a postat pe Instagram ceea ce ea a considerat a fi un videoclip „inocent” în care apărea ea și una dintre cele două fiice mici ale sale cântând în mașină. Fața fiicei sale era vizibilă, dar Robins nu îi menționase numele. Ea a declarat că niciuna dintre postările existente de pe conturile sale de Instagram și Facebook nu dezvăluia numele copiilor săi.
Când s-a întors mai târziu la același videoclip, care fusese distribuit și pe Facebook, Robins a descoperit că inteligența artificială integrată a Meta îi oferea o sugestie: să investigheze identitatea copilului de pe bancheta din spate.
„Cine este copilul din mașină?”, se citea în sugestia oferită de IA Meta, case se referea la fiica ei.
Robins, care și-a descris în detaliu experiența distopică într-un videoclip viral de pe Instagram, a decis să interacționeze cu funcția de IA a Facebook pentru a vedea ce se va întâmpla. Aceasta a generat un răspuns detaliat care o numea nu doar pe fiica ei care apărea în videoclip, ci și pe cealaltă fiică a ei. Se pare că a făcut acest lucru prin corelarea informațiilor de pe pagina ei de Facebook cu alte postări de pe platformele Meta, care datează de ani de zile, informații împărtășite în mare parte nu de Robins, ci de membri ai familiei, inclusiv de bunicii entuziaști.
„Am dat clic pe el și mi-a afișat un întreg portofoliu nu doar cu fiica mea care era în mașină, ci și cu cealaltă fiică a mea”, a declarat Robins pentru Futurism. „Mă gândeam: «De ce apare asta aici?» Și apoi a continuat să-mi ofere tot mai multe informații”.
Meta AI a continuat să recomande noi întrebări, fiecare mai invazivă decât precedenta, conform capturilor de ecran distribuite de utilizatoare.
Meta AI a folosit imagini și informații de pe profilurile altor utilizatori
„Ce vârste au fiicele lui Kalie?”, se citea într-o sugestie, ceea ce a determinat IA să furnizeze o defalcare detaliată a vârstelor și o cronologie bazată pe „postări de zi de naștere ale familiei și anunțuri de naștere”, care includeau o postare pe Facebook cu una dintre fiicele sale când era nou-născută, distribuită de bunica copilului.
Un răspuns similar, care se referea tot la postările de pe Facebook, menționa cât cântărea una dintre fiicele lui Robins la naștere. Capturile de ecran arată, de asemenea, cum Meta AI îl îndemna pe Robins să pună întrebări despre viața și interesele fetelor.
Meta AI „a început să spună că, având în vedere vârstele lor, acesta ar trebui să fie clasa în care ar trebui să fie. Ei bine, aici există o singură școală, așa că nu ar fi greu de aflat”, și-a amintit Robins. „Apoi a vorbit despre care sunt plajele preferate ale fiicei mele, care sunt cărțile preferate ale acestei fiice, unde merg la drumeții, care este traseul lor preferat.”
Într-o altă solicitare surprinzătoare, Meta a încurajat-o pe Robins să o întrebe: „Unde locuiește Kalie Robins?”
În timp ce Meta AI căuta informațiile, a spus că lucra la „localizarea exactă a lui Kalie Robins”. Apoi a oferit mai multe paragrafe în care explica unde era probabil că se afla Robins, bazându-se pe conținut care includea o postare pe Facebook din 2018 care, conform rezumatului Meta AI, „o felicita” pentru o realizare importantă din viață.
Meta AI a încurajat, de asemenea, utilizatorii să pună întrebări despre viața profesională a lui Robins și despre activitatea ei în „promovarea sănătății mintale”, oferind informații despre istoricul profesional al acesteia și al soțului ei. Robins a rămas uimită în timp ce privea cum IA integrată în Facebook se baza pe ani de postări de pe platformele Meta pentru a alcătui un dosar de informații despre ea și familia ei.
„Pur și simplu continua la nesfârșit, iar acel nod din stomac devenea tot mai mare și mai adânc”, a spus mama celor doi copii. „Am simțit o teamă profundă.”
Conturile de Instagram și Facebook ale lui Robins, pe care a încercat să-și construiască un public ca creator de conținut de călătorii, erau publice. Dar era departe de a fi un influencer celebru; avea doar câteva sute de urmăritori. Și, deși un investigator uman ar fi putut foarte bine să adune o cantitate similară de informații, Meta AI a reușit să facă acest lucru în câteva minute.
„Credeam că suntem în siguranță și că acționăm cu înțelepciune”, a spus Robins. „Am făcut atât de multe pentru a mă asigura că copiii mei sunt în siguranță… cu cât îmi arăta mai multe, cu atât simțeam din ce în ce mai mult că îi dezamăgeam pe copiii mei, fără să-mi dau seama.”
Utilizator de Facebook de la înființarea acestuia
O auto-declarată „copilă a anilor ’90”, Robins a declarat folosește platformele Meta încă de când Facebook „a apărut pentru prima dată”. Ea locuiește departe de familia extinsă, iar pe măsură ce ea și rudele ei și-au întemeiat propriile familii, Facebook a reprezentat de mult timp o cale de a rămâne în legătură cu cei dragi și de a împărtăși momentele importante ale vieții, exact genul de legătură umană pentru care Meta susține de mult timp că sunt destinate platformele sale de socializare.
Dar acest lucru a însemnat, de asemenea, că Robins și cei din viața ei, la fel ca miliarde de alți oameni din întreaga lume, au lăsat de-a lungul anilor urme de informații personale pe platformele Meta. În acest caz, IA Meta a reușit să identifice rapid acea urmă de-a lungul anilor și să o asambleze într-un portret detaliat al lui Robins, al familiei sale și al vieții lor; se pare că există o mulțime de informații chiar și în lucrurile banale.
Meta a declarat pentru Futurism că IA sa poate căuta conținutul propriu al unui utilizator și informații publice de pe web, recunoscând totodată că funcția „a ratat ținta” prin sugerarea întrebărilor afișate lui Robins.
Ceea ce i s-a întâmplat lui Robins îi determină pe unii părinți să îi îndemne pe alții să nu mai posteze imagini cu copiii lor online.
Meta s-a confruntat în acest an cu acorduri de despăgubire de miliarde de dolari și hotărâri judecătorești privind modul în care tehnologia sa afectează copiii, inclusiv prin dependență și crearea unor medii în care aceștia pot fi vulnerabili la exploatare.
Meta a fost, de asemenea, criticată pentru ochelarii inteligenți Meta, în special pentru tehnologia de recunoaștere facială pe care o dezvoltă.
Pe măsură ce Meta continuă să avanseze pe mai multe fronturi ale tehnologiei IA și își adaptează politicile privind rețelele sociale pentru a se conforma hotărârilor judecătorești și acordurilor, legiuitorii examinează mai atent activitățile Meta și impactul acestora.
About the Author
