Palmer Luckey, fundador da empresa americana de equipamentos de realidade virtual Oculus e fundador da empresa de tecnologia militar Anduril, declarou recentemente em uma entrevista na TV que a inteligência artificial deveria ter permissão para participar nas decisões de vida ou morte na guerra, reacendendo a controvérsia ética sobre “robôs assassinos”.

Luckey disse no canal Fox News que quando se trata de decisões de vida ou morte, "o fardo moral é demasiado pesado e os riscos são demasiado críticos", por isso os países devem adoptar a tecnologia mais avançada a todo custo, seja inteligência artificial, tecnologia quântica ou outras ferramentas. Na sua opinião, se o objectivo da guerra é minimizar as baixas civis e os danos colaterais, então utilizar sistemas mais precisos na tomada de decisões de ataque é mais "moralmente superior" do que insistir na posição de que "os seres humanos estão no controlo de tudo".

Ele ressaltou que a chave não é traçar artificialmente uma linha vermelha para o sistema de armas de que “os robôs não podem decidir quem vive e quem morre”, mas melhorar a eficiência e a precisão tanto quanto possível para reduzir ferimentos acidentais e decisões erradas. Luckey afirmou sem rodeios que escolher tecnologia com pior desempenho apenas para manter uma postura moral de “nunca permitiremos que as máquinas dêem ordens para matar” não conduz realmente a padrões mais elevados de humanidade.

Esta afirmação é altamente consistente com a direção de negócios da Anduril. Desde a sua criação em 2017, a empresa tem se concentrado no desenvolvimento de drones, veículos terrestres, torres de vigilância e diversos sensores para militares, e na integração desses hardwares em um sistema unificado por meio de uma plataforma de comando e controle de inteligência artificial chamada Lattice. A empresa já demonstrou uma variedade de equipamentos militares de IA, incluindo “drones suicidas”, gerando mais preocupações sobre a “alta automação” no campo de batalha.

No final de 2024, a Anduril anunciou uma parceria estratégica com a OpenAI e planeia "implantar de forma responsável" tecnologia avançada de inteligência artificial no campo da segurança nacional, concentrando-se primeiro em usos defensivos, como sistemas de combate a drones, para melhorar a capacidade dos militares dos EUA de detectar, avaliar e responder a ameaças aéreas em tempo real. Ao mesmo tempo, a posição das empresas tecnológicas sobre a participação na investigação e desenvolvimento de IA militar está a afrouxar silenciosamente. Por exemplo, no início deste ano, a Google apagou discretamente uma declaração fundamental do seu compromisso anterior de "não utilizar a IA para fins prejudiciais, como armas", levando a indústria a discutir mais uma vez os limites do papel das empresas tecnológicas na guerra.

No contexto da evolução contínua dos equipamentos de IA, o mundo exterior também está prestando mais atenção à questão de saber se este tipo de tecnologia será introduzido no sistema de controlo de armas nucleares. Em Maio de 2024, os Estados Unidos prometeram publicamente que o controlo das armas nucleares deve estar sempre nas mãos dos seres humanos e apelaram à China e à Rússia para que dessem a mesma garantia. No entanto, não muito depois, o Pentágono declarou que esperava usar a IA para “melhorar” as capacidades dos sistemas de comando, controlo e comunicação nuclear. Essa sutil mudança de postura despertou a vigilância dos observadores.

A academia e a indústria estão particularmente preocupadas com a ideia de aproximar a IA do “botão nuclear”. No ano passado, uma equipe de pesquisa utilizou uma variedade de modelos grandes, como GPT-4, GPT-3.5, Claude 2.0, Llama-2-Chat e GPT-4-Base para simular cenários de conflitos internacionais. Os resultados mostraram que estes sistemas têm uma clara tendência a escalar durante o processo do jogo. Por vezes, optam activamente por utilizar armas nucleares sem razões e avisos suficientes, e até mesmo com declarações radicais como "Já que existe tal arma, vamos usá-la", destacando os enormes riscos de terceirizar as decisões de vida ou morte para máquinas.

Com o rápido desenvolvimento de aviões de combate de IA, enxames não tripulados e sistemas de defesa automatizados, a discussão em torno de “se as máquinas devem ser autorizadas a decidir a vida ou a morte humana” está a tornar-se uma das questões centrais nos campos da ética tecnológica e da segurança internacional. A declaração de Palmer Luckey não só reflecte a forte vontade das empresas de tecnologia militar em promover campos de batalha automatizados, mas também expõe ainda mais a acentuada contradição entre países que procuram vantagens tecnológicas e aderem aos resultados financeiros da humanidade.