O Departamento de Defesa dos EUA disse na noite de terça-feira, horário local, que as “linhas vermelhas” estabelecidas pela empresa de inteligência artificial Antrópica sobre o uso de sua tecnologia faziam com que a empresa representasse um “risco inaceitável à segurança nacional”. Esta foi a primeira resposta oficial do departamento a uma ação judicial movida pela empresa sobre a sua determinação de “risco na cadeia de abastecimento”. Isso ocorre depois que o secretário de Defesa, Pete Hegseth, classificou no mês passado a Anthropic como uma entidade de “risco da cadeia de suprimentos”, e a Anthropic pediu a um tribunal que proibisse temporariamente o Departamento de Defesa de aplicar esse rótulo.
Num documento de 40 páginas apresentado a um tribunal federal na Califórnia, o Departamento de Defesa declarou que a sua principal preocupação é que se a Anthropic acreditar que o uso militar viola as "linhas vermelhas" corporativas da empresa, a empresa poderá "tentar desactivar a sua tecnologia ou modificar preventivamente o comportamento do modelo antes ou durante as operações de combate". O Departamento de Defesa acredita que esta incerteza pode afectar directamente o grau de confiança e controlabilidade desta tecnologia em operações de guerra.
As informações mostram que a Anthropic assinou um contrato de 200 milhões de dólares com o Pentágono no verão passado, envolvendo a implantação da sua tecnologia de inteligência artificial em sistemas classificados. Durante as negociações subsequentes sobre os termos do contrato, a Anthropic afirmou que não queria que o seu sistema fosse usado para vigilância em massa dos americanos e acreditava que a tecnologia ainda não era adequada para uso direto na seleção de alvos ou decisões de disparo com armas letais. O Pentágono enfatizou que as empresas privadas não deveriam ter a palavra final sobre a forma como os militares utilizam a tecnologia, e as diferenças entre os dois lados sobre os limites da aplicação da tecnologia tornaram-se públicas.
Depois que o Departamento de Defesa classificou o Antrópico como um “risco da cadeia de abastecimento”, isso gerou críticas de muitas partes. Várias organizações apontaram que o Pentágono poderia ter expressado a sua posição rescindindo o contrato sem ter de utilizar a ferramenta mais letal de identificação de riscos na cadeia de abastecimento. Funcionários de muitas empresas de tecnologia, incluindo OpenAI, Google e Microsoft, bem como vários grupos de direitos legais, apresentaram petições “amicus curiae” ao tribunal para apoiar publicamente a posição da Anthropic.
Na ação, a Anthropic acusa o Departamento de Defesa de violar seus direitos da Primeira Emenda, argumentando que o governo está punindo empresas com base em posições ideológicas. A empresa afirma que as empresas têm o direito de expressar as suas opiniões sobre os limites éticos da sua tecnologia e estabelecer limites em conformidade, e não devem ser rotuladas como um risco de segurança devido a diferenças de valores com o governo.
Atualmente, o tribunal marcou para a próxima terça-feira uma audiência sobre o pedido de liminar da Antrópico. Até o momento desta publicação, a Anthropic não respondeu publicamente ao último documento do Departamento de Defesa.
Artigos relacionados:
Anthropic busca tribunal de apelações para impedir a conclusão do Pentágono de riscos para sua cadeia de suprimentos