A Microsoft recentemente restringiu os funcionários de usarem internamente o modelo grande de nível Mythos recém-lançado da Anthropic, Claude Fable 5, devido a preocupações sobre os riscos de conformidade e confidencialidade que sua política de retenção de dados pode trazer. De acordo com pessoas familiarizadas com o assunto, depois que a Anthropic atualizou seus requisitos de retenção de dados para Claude Fable 5, a equipe jurídica da Microsoft interveio para avaliar e remover temporariamente o modelo da lista de seleção de modelos do GitHub Copilot usada pelos funcionários da empresa.
A Anthropic lançou oficialmente seu primeiro modelo do nível Mythos, Claude Fable, ontem. Fable 5 é a versão principal desta versão e foi rapidamente integrada a produtos e serviços voltados para o cliente, como GitHub Copilot e Foundry da Microsoft. No entanto, ao contrário do lançamento rápido para clientes externos, os funcionários internos da Microsoft estão temporariamente impossibilitados de escolher Claude Fable 5 em seu próprio ambiente GitHub Copilot e ainda só podem acessar outros modelos da série Claude que continuam a implementar a estratégia "Zero Data Retention" (ZDR).
É relatado que a explicação interna da Microsoft aos funcionários é que a equipe jurídica está avaliando os mais recentes requisitos de retenção de dados da Anthropic para os modelos da série Mythos. As principais preocupações concentram-se em como os dados dos clientes e as informações confidenciais são armazenados e processados. Não está claro qual será a revisão legal e se Claude Fable 5 será reaberto para uso dos funcionários da Microsoft no futuro.
De acordo com a política anunciada pela Anthropic, o funcionamento do Claude Fable 5 depende de um novo classificador de segurança, que exige que o servidor retenha prompts do usuário e produza conteúdo para análise de segurança e detecção de violações. De acordo com as regras em vigor, estes dados serão conservados por 30 dias por defeito e eliminados após a expiração; se o conteúdo relevante for sinalizado como violando a política de uso da Anthropic, ele poderá ser retido por até dois anos para fins contínuos de segurança e conformidade. É este mecanismo de “retenção obrigatória” que desencadeou uma série de preocupações sobre responsabilidade legal, privacidade do cliente e proteção da confidencialidade corporativa por parte da Microsoft.
O Claude Fable 5 é o primeiro lançamento público em grande escala da família de modelos Anthropic Mythos, que a empresa disse anteriormente serem “muito perigosos para um lançamento público completo” quando se trata de tarefas sensíveis, como segurança cibernética. Para reduzir o risco de abuso, a Anthropic introduziu mecanismos mais rigorosos de proteção de segurança de palavras imediatas e mecanismos de revisão de conteúdo para Fable 5, o que também contribuiu tecnicamente para o design atual de retenção de dados, criando uma nova tensão entre a segurança do produto e a conformidade de dados.
A mídia solicitou comentários da Microsoft sobre o uso atual de Claude Fable 5 dentro da Microsoft e seus planos subsequentes, mas a Microsoft não respondeu antes do prazo.
Artigos relacionados:
Anthropic lança Claude Fable 5, versão pública do Mythos sem recursos de segurança cibernética