Anthropic, unul dintre principalii rivali ai OpenAI, s-a confruntat cu un val de critici după lansarea noului model de inteligență artificială Fable 5. Deși compania l-a prezentat drept cel mai puternic sistem AI disponibil public până acum, utilizatorii au acuzat că modelul este excesiv de restrictiv, transmite Mediafax.
Controversa a izbucnit la câteva ore după lansarea oficială. Cercetători, dezvoltatori și utilizatori obișnuiți au reclamat că Fable 5 blochează sau limitează răspunsurile la numeroase întrebări din domenii precum biologia, medicina sau securitatea informatică, potrivit NBC News. În unele cazuri, modelul nu doar refuza să răspundă, ci redirecționa automat conversația către un sistem AI mai puțin performant, fără să informeze utilizatorul.
Reacțiile negative au fost atât de puternice încât Anthropic a modificat o parte dintre restricții în mai puțin de 48 de ore de la lansare. „Am făcut alegerea greșită și ne cerem scuze pentru că nu am găsit echilibrul potrivit”, a transmis compania.
Întrebări banale, tratate ca suspecte
Anthropic susține că măsurile stricte au fost introduse din motive de siguranță. Potrivit companiei, modelele din familia Mythos, din care face parte și Fable 5, sunt suficient de puternice pentru a putea fi utilizate în scopuri periculoase, inclusiv pentru identificarea vulnerabilităților informatice sau pentru cercetări biologice sensibile.
Testele realizate după lansare au arătat că sistemul putea considera suspecte inclusiv întrebări banale. Fable 5 a refuzat să ofere opinii despre Elon Musk sau despre directorul Anthropic, Dario Amodei, considerând solicitările potențial periculoase, arată NBC News. Modelul a evitat, de asemenea, întrebările legate de cercetarea cancerului sau de anumite investigații medicale, fără nicio componentă ilegală sau riscantă.
O altă decizie contestată a fost introducerea unor filtre invizibile pentru întrebările care ar putea ajuta la dezvoltarea altor sisteme AI concurente. Practic, modelul putea furniza intenționat răspunsuri mai slabe, fără să anunțe utilizatorul. După criticile comunității AI, Anthropic a renunțat rapid la această abordare și a promis mai multă transparență.
About the Author
