Anthropic susține că a redus cu până la 99% cantitatea de date extrase din modelele sale Claude prin atacuri menite să le copieze capacitățile. Compania a introdus noi măsuri de protecție și a blocat zeci de mii de conturi, pe fondul rivalității tehnologice dintre SUA și China.
Compania americană Anthropic a anunțat că noile măsuri de securitate introduse pentru protejarea modelelor sale de inteligență artificială (IA) Claude au redus cu aproximativ 90% până la 99% cantitatea de date extrase prin atacuri de tip „distilare”, relatează Reuters, publicație citată de Mediafax.
– articolul continuă mai jos –
Aceste atacuri permit companiilor rivale să reproducă funcționalitățile unor modele IA avansate într-un timp mai scurt și la costuri mai reduse.
Rivalitatea dintre SUA și China intensifică lupta pentru tehnologia AI
Distilarea modelelor AI a devenit o preocupare majoră pentru companii precum Anthropic, OpenAI și Google, pe fondul intensificării competiției tehnologice dintre Statele Unite și China.
Potrivit Anthropic, noile mecanisme de protecție limitează accesul la procesele de raționament ale Claude, reducând semnificativ posibilitatea ca rivalii să extragă informații pentru a-și dezvolta propriile sisteme.
Citește și: O femeie a fost arestată după ce Anthropic a semnalat poliției o conversație pe Claude
Compania susține că numărul de tokenuri asociate raționamentului extrase de atacatori este acum „de 10 până la 100 de ori mai mic decât înainte”.
Zeci de mii de conturi, blocate de Anthropic
Compania cu sediul în California a introdus și măsuri care îngreunează utilizarea rețelelor de servere intermediare pentru a încerca în mod repetat să acceseze informațiile protejate ale Claude.
Anthropic susține că sistemul său de securitate este „aproximativ la fel de robust precum mecanismele care îl împiedică pe Claude să ajute la dezvoltarea armelor biologice” și are o rată a rezultatelor fals pozitive de sub 0,1%. De asemenea, compania a blocat zeci de mii de conturi asociate campaniilor de distilare.
Anthropic a indicat startupul chinez Z.ai, cunoscut și sub numele de Zhipu, drept exemplu de companie care ar fi încercat să copieze capacitățile Claude în timpul dezvoltării modelului GLM-5.3. Compania americană avertizează că astfel de practici pot reprezenta riscuri pentru siguranță și securitatea națională.
Te-ar putea interesa și: Anthropic oferă acum un serviciu gratuit de detectare a vulnerabilităților pentru software-ul open-source
About the Author
