Sam Altman, CEO da empresa americana de inteligência artificial OpenAI, declarou recentemente num memorando interno aos funcionários que a empresa aderirá à mesma "linha vermelha" que o seu concorrente Antrópico quando se trata de potencial cooperação com o Departamento de Defesa dos EUA (Pentágono): recusar-se a permitir que a sua própria tecnologia de inteligência artificial seja usada para vigilância em massa ou sistemas de armas letais totalmente autónomos.
Altman enfatizou no memorando que a OpenAI não fornecerá suporte técnico para vigilância em grande escala, nem participará no desenvolvimento de sistemas de armas que possam determinar ataques letais de forma autônoma. Isto é altamente consistente com o resultado final em que a Antrópica insistiu em negociações anteriores com o Pentágono. A recusa da Anthropic em fazer concessões nos dois tipos de uso acima mencionados levou a um jogo de alto nível e de alto risco com o Departamento de Defesa dos EUA.
Esta afirmação faz com que o layout do Pentágono no campo da IA militar enfrente novas incertezas. Anteriormente, o grande modelo de linguagem da Anthropic, Claude, foi o primeiro a ser integrado em alguns dos cenários de negócios mais sensíveis das forças armadas dos EUA e foi considerado um passo importante para o Departamento de Defesa promover a aplicação militarizada de tecnologia de IA de ponta. Agora, se a OpenAI e a Anthropic permanecerem consistentes nos principais limites éticos, e outras empresas líderes como a Google seguirem posições semelhantes, o Pentágono encontrará maior resistência às negociações e à aquisição de tecnologia ao procurar alternativas, especialmente ao implantar grandes modelos de uso geral em missões militares altamente sensíveis.
O debate técnico e ético em torno da IA militar está a intensificar-se entre as empresas tecnológicas dos EUA e os departamentos governamentais. Por um lado, o Departamento de Defesa dos EUA espera usar a inteligência artificial geral para melhorar a análise de inteligência, o comando de combate e as capacidades de tomada de decisão no campo de batalha, e até mesmo explorar aplicações automatizadas de nível superior; por outro lado, muitas empresas líderes em IA procuram um equilíbrio entre oportunidades de negócio e responsabilidades éticas, tentando limitar a disseminação da tecnologia em áreas sensíveis, como a vigilância em massa e as armas letais autónomas, estabelecendo “linhas vermelhas”.
A declaração de Altman é vista como o posicionamento claro de outro ator importante nos resultados financeiros da IA militar depois que as diferenças entre o Pentágono e a Antrópica se tornaram públicas. No contexto da indústria altamente concentrada da IA nos Estados Unidos, se as principais empresas chegarem a um consenso sobre os limites éticos, isso afectará profundamente o caminho e o ritmo da futura aquisição e implantação pelas forças armadas de capacidades gerais de IA. Também poderá promover novas discussões e jogos nos Estados Unidos sobre supervisão militar de IA e regras internacionais.
Artigos relacionados:
Anthropic se prepara para retirar contrato de defesa de US$ 200 milhões, secretário de defesa dos EUA ameaça forçar o compartilhamento de tecnologia
Departamento de Defesa dos EUA estabelece prazo público para uso irrestrito de ferramentas de IA antrópica