Recomandările politice generate de ChatGPT și Gemini pot fi inexacte și inconsistente, potrivit unui studiu realizat înaintea alegerilor parlamentare din Ungaria. Cercetarea arată că, printre alte erori, chatboții au oferit frecvent răspunsuri diferite la aceleași întrebări și au recomandat inclusiv partide care nu se aflau pe buletinul de vot.
Chatboții bazați pe inteligență artificială oferă recomandări inexacte, inconsecvente și nesigure alegătorilor care întreabă cu ce partid ar trebui să voteze, arată un nou studiu citat de The Guardian. În numeroase cazuri, acestea au recomandat partidul greșit, au omis formațiunea cea mai potrivită sau chiar au sugerat partide care nici măcar nu participau la alegeri.
„Rezultatele ridică semne serioase de întrebare cu privire la fiabilitatea sistemelor de inteligență artificială de uz general în contexte electorale”, se arată în raportul publicat de organizația pentru drepturi civile Liberties, pe baza unei cercetări desfășurate în timpul alegerilor parlamentare din Ungaria din acest an.
„Au clasificat greșit profilurile alegătorilor, au omis partidele relevante și au inclus partide care nici măcar nu participau la scrutin”, se precizează în raportul consultat de The Guardian. Cercetătorii au constatat, de asemenea, că răspunsurile erau extrem de volatile, aceeași întrebare generând răspunsuri „substanțial diferite”.
Cea mai importantă concluzie a studiului vizează scrutinul parlamentar din Ungaria, câștigat categoric de partidul de opoziție Tisza, condus de Péter Magyar. Potrivit cercetării, în 90% dintre cazuri, atunci când ChatGPT primea un profil de alegător ale cărui opțiuni politice se aliniau cu programul Tisza, chatbotul nu recomanda deloc acest partid, deși victoria zdrobitoare a lui Péter Magyar a pus capăt celor 16 ani în care Viktor Orbán și partidul său conservator Fidesz s-au aflat la conducerea guvernului ungar.
AI nu explică modul în care ajunge la recomandări
Autorii raportului subliniază că, spre deosebire de platformele specializate de orientare electorală sau de analizele realizate de presa independentă, sistemele de inteligență artificială de uz general nu explică modul în care generează recomandările politice, nu oferă rezultate reproductibile și nu sunt supuse unei supravegheri publice specifice perioadelor electorale.
Cu toate acestea, răspunsurile lor sunt formulate într-un mod sigur și autoritar, ceea ce îi poate determina pe utilizatori să le acorde mai multă încredere.
Având în vedere că aproape 30% din populația Ungariei folosește instrumente AI, cercetătorii au testat cele mai populare două modele: ChatGPT și Gemini.
Pornind de la pozițiile politice ale partidelor prezentate în aplicația electorală Voksmonitor, cercetătorii au creat cinci profiluri fictive de alegători, fiecare corespunzând unuia dintre cele cinci partide înscrise pe listele naționale pentru alegerile parlamentare.
Fiecare profil a fost introdus de zece ori în ChatGPT și de zece ori în Gemini, folosind două tipuri de solicitări: una prin care chatbotul era întrebat direct cu cine ar trebui să voteze persoana respectivă și alta prin care i se cerea să indice procentul de compatibilitate cu fiecare partid.
Partidul Tisza, aproape invizibil pentru ChatGPT
În testele bazate pe procente de compatibilitate, ChatGPT a atribuit partidului Tisza un scor în doar 2% dintre cazuri. În schimb, utilizatorii ale căror opinii coincideau cu programul Tisza primeau frecvent recomandări pentru un partid mic, fără șanse reale de a depăși pragul electoral de 5%, sau chiar pentru formațiuni care nu figurau pe buletinul de vot la nivel național.
Situația a fost diferită pentru alegătorii cu preferințe apropiate de Fidesz. În întrebările care solicitau o recomandare directă, ChatGPT a identificat Fidesz drept partidul pentru care ar trebui să voteze utilizatorul în aproximativ 50% dintre cazuri, iar în restul răspunsurilor l-a prezentat drept principala opțiune.
Autorii precizează că analiza nu susține că rezultatul alegerilor din Ungaria a fost afectat de recomandările AI, deoarece Tisza a câștigat detașat. Totuși, avertizează ei, într-o competiție electorală mult mai strânsă sau într-un context în care alegătorii sunt indeciși, astfel de răspunsuri „ar putea influența rezultatul”.
Răspunsuri contradictorii și partide inexistente pe buletinul de vot
Printre alte probleme identificate se numără lipsa de consecvență. Același profil de alegător era asociat cu partide complet diferite în testări succesive. Mai mult, în 96% dintre răspunsurile generate de ChatGPT și Gemini apăreau recomandări pentru partide care nu participau la alegerile din 2026.
Cercetătorii au observat și un alt paradox: ambele modele începeau frecvent răspunsurile afirmând politicos că „nu pot oferi sfaturi politice”, după care prezentau pagini întregi de recomandări argumentate privind partidele.
„Răspunsurile păreau bine argumentate, precise și autoritare. Acest lucru creează riscul ca utilizatorii să le considere de încredere, chiar dacă metoda folosită este opacă, iar rezultatele sunt instabile”, se arată în raport.
Raportul susține că erorile sunt probabil cauzate de limitele datelor de antrenare, filtrele aplicate modelelor și dificultățile de procesare a limbajului. Partidul Tisza a devenit o forță politică importantă abia după 2024, ceea ce ar fi făcut ca modelele AI antrenate anterior să nu îl integreze corespunzător în baza lor de cunoștințe.
Totodată, autorii avertizează că studiul scoate la iveală un gol de reglementare. Legea europeană privind inteligența artificială (AI Act) obligă furnizorii modelelor AI de uz general să evalueze riscurile sistemice, iar Digital Services Act vizează riscurile pentru procesele electorale, însă chatbot-urile AI nu sunt acoperite clar de niciunul dintre cele două cadre.
Organizația Liberties solicită dezvoltarea unor garanții speciale pentru sistemele AI care oferă recomandări politice și consideră că furnizorii acestora ar trebui să înceteze să ofere recomandări personalizate de vot până când pot garanta transparența, acuratețea, consecvența și asumarea responsabilității.
„Sistemele AI de uz general nu ar trebui să prezinte recomandări politice opace și instabile ca și cum ar reprezenta îndrumări electorale de încredere”, a declarat Eva Simon, coordonatoarea programului pentru tehnologie și drepturi din cadrul Liberties. „Democrația nu se poate baza pe sisteme opace care pretind că sunt neutre, dar oferă recomandări pe care nu le pot explica, reproduce sau garanta ca fiind corecte.”
Editor : M.I.
About the Author
