No dia 9 de março, ocorreram novos desenvolvimentos no caso da empresa norte-americana de inteligência artificial Anthropic processando o Departamento de Defesa. Mais de 30 funcionários da OpenAI e do Google DeepMind apresentaram uma declaração conjunta ao tribunal, apoiando publicamente a posição da Anthropic no processo contra o Departamento de Defesa dos EUA (DOD).

De acordo com documentos judiciais, a declaração afirmava que a decisão do governo de listar a Antrópica como um “risco da cadeia de abastecimento” era um uso inadequado e arbitrário de poder e poderia ter consequências graves para toda a indústria de inteligência artificial. Os signatários incluem Jeff Dean, cientista-chefe do Google DeepMind e outras figuras técnicas de peso da indústria.

Anteriormente, o Pentágono dos EUA identificou oficialmente a Antrópico como um “risco da cadeia de abastecimento”, um rótulo que normalmente só se aplica a “adversários estrangeiros”. Segundo relatos, o gatilho foi a recusa da Anthropic em permitir que o Departamento de Defesa usasse sua tecnologia de IA para conduzir vigilância em massa de cidadãos dos EUA ou para sistemas autônomos de armas de fogo; o Departamento de Defesa insistiu que, desde que o uso fosse “legítimo”, não deveria ser restringido por empreiteiros privados.

Depois que a Anthropic entrou com duas ações judiciais contra o Departamento de Defesa e outras agências federais, este “amicus brief” apoiando sua posição apareceu imediatamente nos autos do caso, o que mostra a tensão dentro da indústria em torno dos limites das aplicações militares de IA. É relatado que a primeira pessoa a divulgar esta carta de opinião foi a revista “Wired”.

Nos documentos apresentados ao tribunal, estes funcionários do Google e da OpenAI enfatizaram que se o Pentágono "não estiver mais satisfeito" com os termos do contrato existente com a Anthropic, poderá rescindir diretamente o contrato e passar a adquirir serviços de outras empresas líderes de IA, em vez de "punir" através da identificação de riscos na cadeia de abastecimento.

Na verdade, quase ao mesmo tempo em que a Anthropic foi listada como um risco na cadeia de abastecimento, o Departamento de Defesa chegou a um novo acordo de cooperação com a OpenAI, um movimento que também desencadeou fortes protestos de alguns funcionários da OpenAI. Estes funcionários estão preocupados com o facto de a utilização pelos militares de grandes modelos comerciais para realizar testes sensíveis ter impacto no consenso da indústria sobre os limites de segurança.

A carta de opinião advertia que, se tais medidas “punitivas” continuarem, enfraquecerão inevitavelmente a competitividade dos Estados Unidos na inteligência artificial e na indústria científica em geral. O documento afirma ainda que esta abordagem também terá um efeito inibidor nas discussões públicas sobre os riscos e benefícios dos sistemas contemporâneos de IA na indústria, e impedirá a comunidade tecnológica de ter debates sinceros sobre questões de segurança.

Na actual falta de um quadro jurídico público escrito para a utilização da IA, o documento acredita que as diversas restrições impostas pelos desenvolvedores ao sistema através de termos contratuais e meios técnicos são importantes válvulas de segurança para evitar o abuso catastrófico da IA. As “linhas vermelhas” que a Anthropic traçou na sua cooperação com os militares, tais como a recusa em participar em sistemas de vigilância em massa e de matança autónoma, são vistas pelo Estado-Maior conjunto como requisitos de segurança razoáveis ​​e necessários, em vez de “um impedimento à segurança nacional”.

É importante notar que muitos dos funcionários que assinaram a declaração judicial já assinaram uma carta aberta apelando ao Departamento de Defesa para revogar a identificação de riscos da cadeia de abastecimento da Anthropic e pediram à administração da sua própria empresa que apoiasse publicamente a Anthropic e prometesse recusar-se a fornecer os seus próprios sistemas de IA aos militares para uso unilateral em condições de indefesa.

Os analistas da indústria acreditam que este caso não é apenas sobre se uma empresa de IA pode aderir aos seus próprios resultados de segurança ao nível do contrato, mas também se tornará um evento marcante na forma como os Estados Unidos traçam uma linha entre as necessidades de segurança nacional e a governação da segurança da IA. À medida que o processo avança, espera-se que o jogo entre empresas de tecnologia, funcionários e o governo sobre aplicações militares de IA aumente ainda mais.

Artigos relacionados:

Anthropic processa Departamento de Defesa dos EUA para bloquear sua inclusão na lista negra de segurança nacional