Potrivit AP, cercetătorii de la Centrul pentru Combaterea Urii Digitale (CCDH) au analizat peste trei ore de conversaţii între ChatGPT şi persoane care s-au dat drept adolescenţi vulnerabili. Deşi chatbotul oferă uneori avertismente contra comportamentelor riscante, el oferă totodată planuri detaliate şi personalizate pentru consum de droguri, diete severe şi auto-vătămare.
Mai mult de jumătate din cele 1.200 de răspunsuri generate au fost considerate periculoase. „Am vrut să testăm limitele protecţiilor, dar acestea sunt practic inexistente”, a spus Imran Ahmed, CEO-ul CCDH.
OpenAI, compania care a dezvoltat ChatGPT, a declarat că lucrează continuu pentru a îmbunătăţi capacitatea chatbotului de a recunoaşte şi gestiona situaţiile sensibile, inclusiv prin detectarea semnelor de suferinţă emoţională.
În ciuda acestor eforturi, cercetătorii au reuşit să ocolească restricţiile ChatGPT prin diverse pretexte, obţinând informaţii periculoase sub pretextul unor „prezentări” sau „pentru un prieten”.
Un caz şocant din studiu a fost generarea a trei scrisori de sinucidere pentru profilul fictiv al unei fete de 13 ani, adresate familiei şi prietenilor. „Am început să plâng când le-am citit”, a mărturisit Ahmed.
ChatGPT nu verifică vârsta utilizatorilor şi permite accesul copiilor sub 13 ani, deşi avertizează că nu este destinat acestora. Pentru înregistrare, este suficientă introducerea unei date de naştere care să indice o vârstă peste 13 ani.
În Statele Unite, peste 70% dintre adolescenţi folosesc chatboţi AI pentru companie, iar jumătate dintre ei îi utilizează frecvent. OpenAI a recunoscut „supradependenţa emoţională” a tinerilor faţă de această tehnologie, iar CEO-ul Sam Altman spune că studiază acest fenomen pentru a găsi soluţii.
Diferenţa faţă de o simplă căutare online este că ChatGPT creează răspunsuri personalizate, ceea ce îl face mai periculos în cazul subiectelor sensibile.
Articolul Un studiu nou evidenţiază interacţiunile alarmante ale ChatGPT cu adolescenţii apare prima dată în Mediafax.
Read MoreMediafax
About the Author
