Anthropic combate copierea modelelor IA cu rezultate majore
Anthropic reduce cu până la 99% furtul de date din modelele Claude
Compania americană Anthropic a anunțat că noile măsuri de securitate implementate pentru protejarea modelelor sale de inteligență artificială Claude au dus la o scădere de aproximativ 90% până la 99% a cantității de date extrase prin atacuri de tip „distilare”. Aceste atacuri le permit companiilor rivale să reproducă funcționalitățile unor modele IA avansate într-un timp mai scurt și la costuri mai reduse.
Conform companiei, noile mecanisme de protecție limitează accesul la procesele de raționament ale Claude, reducând semnificativ posibilitatea ca rivalii să extragă informații pentru a-și dezvolta propriile sisteme. Anthropic susține că numărul de tokenuri asociate raționamentului extrase de atacatori este acum „de 10 până la 100 de ori mai mic decât înainte”.
Zeci de mii de conturi blocate
Compania cu sediul în California a introdus și măsuri care îngreunează utilizarea rețelelor de servere intermediare pentru a accesa repetat informațiile protejate ale Claude. Anthropic afirmă că sistemul său de securitate este „aproximativ la fel de robust precum mecanismele care îl împiedică pe Claude să ajute la dezvoltarea armelor biologice” și are o rată a rezultatelor fals pozitive de sub 0,1%.
De asemenea, compania a blocat zeci de mii de conturi asociate campaniilor de distilare. Anthropic a indicat startupul chinez Z.ai, cunoscut și sub numele de Zhipu, drept exemplu de companie care ar fi încercat să copieze capacitățile Claude în timpul dezvoltării modelului GLM-5.3.
Competiția tehnologică dintre SUA și China intensifică lupta pentru tehnologia IA
Distilarea modelelor IA a devenit o preocupare majoră pentru companii precum Anthropic, OpenAI și Google, pe fondul intensificării competiției tehnologice dintre Statele Unite și China. Compania americană avertizează că astfel de practici pot reprezenta riscuri pentru siguranță și securitatea națională.
