Resumo:
A Anthropic disse na segunda-feira que novas medidas destinadas a impedir que os concorrentes copiem as capacidades do seu modelo Claude AI reduziram a quantidade de dados roubados pelos chamados "ataques de destilação" em cerca de 90% a 99%.
A destilação de modelos tornou-se o foco das principais empresas de inteligência artificial; empresas como Anthropic, OpenAI e Google acreditam que esta prática permite que os concorrentes copiem suas capacidades avançadas a um custo menor e com mais rapidez.
A Anthropic disse que as salvaguardas destinadas a limitar o acesso às capacidades de inferência de Claude reduziram significativamente as tentativas de extração contra o modelo, e que o “número de tokens de inferência extraídos por destilação” caiu agora para “1/100 a 1/10 do nível anterior”.
A empresa com sede na Califórnia disse que tornou mais difícil aproveitar uma rede de agentes para investigar repetidamente o processo de inferência protegido de Claude, bloqueando tentativas de extração de dados e dificultando campanhas de destilação de modelos em grande escala.
A Anthropic afirma que seu sistema de segurança é “aproximadamente equivalente a um sistema que teria impedido Claude de ajudar na criação de uma arma biológica” e tem uma “taxa de falsos positivos inferior a 0,1 por cento”.
Comentários