Un judecător britanic a avertizat public asupra riscurilor majore pe care le implică folosirea inteligenței artificiale în pregătirea proceselor, după ce Serviciul de Procuratură al Coroanei (CPS) a depus în instanță documente care făceau referire la cauze judiciare complet inexistente, transmite LBC.
Magistratul Sweeting a semnalat această gravă eroare într-o hotărâre prin care a respins recursurile formulate de două persoane care contestau extrădarea lor în România, unde trebuie să execute pedepse cu închisoarea. CPS s-a opus acestor recursuri în fața Înaltei Curți.
La finalul deciziei sale, judecătorul Sweeting a subliniat că două dintre precedentele juridice invocate inițial de procurori într-un document de la dosar nu existau în realitate. Aceste cazuri fictive au fost preluate ulterior și într-un al doilea act oficial, înainte ca anomalia să fie sesizată și raportată către CPS înaintea unei ședințe de judecată programate în luna februarie.
Eroarea umană și riscurile tehnologiei
Instituția publică a recunoscut oficial eroarea și a prezentat scuze instanței, dând asigurări că nu a existat nicio intenție de a induce în eroare magistrații și că a demarat o anchetă internă.
Într-o scrisoare transmisă în luna martie, CPS a admis că trimiterile juridice erau inexacte și a explicat că anomalia a survenit, cel mai probabil, în urma utilizării inteligenței artificiale generative. Cu toate acestea, instituția a identificat o culpă critică în faptul că avocatul responsabil de caz nu a verificat corespunzător acuratețea textului înainte de depunerea și comunicarea lui oficială.
Conform judecătorului, deși sursa inițială a fost tehnologia, cauza principală a rămas eroarea umană, definită prin lipsa de verificare a surselor. O revizuire internă extinsă asupra altor 78 de dosare gestionate de același avocat nu a indicat probleme similare, fapt ce arată un risc scăzut de repetare.
Deoarece erorile au fost descoperite înainte de audieri, ele nu au influențat argumentele sau decizia finală. Judecătorul Sweeting a acceptat scuzele CPS, concluzionând că incidentul demonstrează clar riscurile utilizării IA fără o supraveghere strictă în cercetarea juridică.
Te-ar putea interesa și: Halucinațiile AI ale motorului de căutare Google determină compania să angajeze ingineri specializați în „calitatea răspunsurilor AI”
About the Author
