Modelele actuale de inteligență artificială pot identifica trăsături de personalitate analizând istoricul conversațiilor unui utilizator, conform unui studiu nou, realizat de cercetătorii de la ETH Zurich.
În cadrul acestui studiu, cercetătorii au analizat peste 62 de mii de conversații purtate de 668 de utilizatori ChatGPT din Statele Unite ale Americii și din Marea Britanie. Participanții și-au pus la dispoziție istoricul conversațiilor, iar realizatorii studiului au antrenat un model AI pentru a identifica principalele trăsături de personalitate ale fiecărui utilizator.
AI-ul urmărește cele cinci trăsături de personalizate folosite în psihologie
Modelul AI a fost conceput pentru a detecta cele cinci mari trăsături de personalitate utilizate în psihologie, cunoscute drept „Big Five”: agreabilitate, conștiinciozitate, stabilitate emoțională, extroversiune și deschidere către experiențe noi. Participanții au trecut și prin teste psihologice standardizate, pentru ca rezultatele oferite de AI să poată fi comparate cu evaluările reale. Potrivit studiului, modelul a reușit să prezică trăsăturile utilizatorilor cu o acuratețe de până la 61%, iar cele mai bune rezultate au fost obținute în identificarea persoanelor agreabile și stabile emoțional. În schimb, AI-ul a avut dificultăți mai mari în estimarea nivelului de conștiinciozitate.
Realizatorii studiului spun că modelul a funcționat mai bine atunci când a avut acces la un număr mai mare de conversații. Concluzia studiului este că utilizatorii care folosesc frecvent instrumente AI oferă, fără să realizeze, suficiente informații pentru ca aceste sisteme să le poată construi profiluri psihologice relativ precise. Autorii cercetării avertizează că riscurile individuale sunt limitate în prezent, însă problema poate deveni serioasă, privită la scară largă.
Manipularea și propaganda, facilitate de obținerea unor asemenea date
Potrivit acestui studiu, datele despre personalitate ar putea fi folosite în viitor pentru campanii de manipulare, dezinformare sau chiar propagandă politică. „Există riscuri majore la scară mare”, notează realizatorii studiului, care atrag atenția că profilurile psihologice generate automat pot deveni instrumente puternice pentru influențarea comportamentului oamenilor.
Cercetătorii afirmă că speră ca rezultatele studiului să ducă la dezvoltarea unor sisteme capabile să reducă riscul de divulgare excesivă a datelor personale către platformele AI. Iar, printre soluțiile propuse, se află instrumente care ar putea elimina automat aceste informații identificabile din conversațiile utilizatorilor.
Sursa: Mediafax
About the Author
