Resumo:
O Papa Leão XIV emitiu recentemente outro alerta sobre a aplicação da inteligência artificial no campo militar, apelando aos governos para que tomem medidas específicas para proibir sistemas de armas que possam determinar de forma independente alvos de ataque e realizar ataques fatais. Ele enfatizou que as principais decisões que envolvem a vida humana, a liberdade e o uso da força devem estar sempre sob supervisão humana eficaz, informada e responsável e não podem ser deixadas à inteligência artificial para tomar de forma independente.
No dia 30 de outubro, hora local, o Papa Leão XIV reuniu-se no Vaticano com cientistas, especialistas técnicos e representantes de instituições relacionadas que participaram numa conferência especial sobre inteligência artificial. A conferência, intitulada "O Futuro da Inteligência Artificial: Um Diálogo entre o Vaticano e a Comunidade Científica sobre o Desenvolvimento e Aplicação de Tecnologias Inteligentes", foi co-organizada pela Pontifícia Academia de Ciências da Vida do Vaticano e pelo Instituto Futuro da Vida e centrou-se nas questões técnicas, éticas e sociais trazidas pelo desenvolvimento da inteligência artificial.
No seu discurso, o Papa recordou o discurso proferido pelo seu antecessor, o Papa Francisco, aos líderes do Grupo dos Sete em 2024. Na altura, Francisco descreveu a inteligência artificial como uma ferramenta que era ao mesmo tempo excitante e preocupante, e deixou claro que nenhuma máquina deveria ter o poder de decidir se deveria tirar uma vida humana. Leão XIV acreditava que este aviso ainda é relevante hoje.
Leão XIV destacou que o futuro da inteligência artificial não está predestinado. Sendo uma tecnologia desenvolvida por seres humanos, a direção do seu desenvolvimento depende, em última análise, das escolhas dos próprios seres humanos. Portanto, os humanos não só têm a responsabilidade de orientar o desenvolvimento da inteligência artificial, mas também devem alterar ou mesmo rejeitar determinadas aplicações quando necessário. A verdadeira questão que precisa ser discutida não é apenas o que a inteligência artificial pode fazer, mas, mais importante ainda, qual o propósito que os humanos desejam que ela sirva.
Ele enfatizou particularmente que a inteligência artificial deve aceitar restrições éticas eficazes, especialmente não permitindo que sistemas algorítmicos decidam quem deve ser o alvo ou quem deve ser sujeito ao controlo fronteiriço sem supervisão humana substancial. Colocar uma pessoa numa lista de alvos militares ou numa base de dados de controlo de fronteiras corre o risco de ser reduzida a um conjunto de dados, enquanto as vidas reais e os direitos individuais envolvidos são ignorados.
Portanto, o Papa apelou aos países para que conduzam o chamado "desarmamento" da inteligência artificial e instou especificamente os países que estão prestes a realizar uma conferência relevante em Genebra, na Suíça, em Novembro, a tomarem medidas concretas para promover a proibição de armas letais autónomas.
As chamadas armas letais autônomas referem-se a sistemas de armas que podem identificar, selecionar e atacar alvos sem intervenção humana direta. Com o desenvolvimento da inteligência artificial, da visão computacional, dos drones e dos sistemas militares automatizados, este tipo de tecnologia tornou-se uma questão importante na discussão da comunidade internacional sobre a ética militar e as regras da guerra. A principal controvérsia é que, uma vez que as máquinas ganhem a capacidade de decidir de forma independente os alvos dos ataques, a atribuição de responsabilidades, as consequências do erro de julgamento e o controlo humano da guerra poderão enfrentar novos desafios.
Além dos usos militares, Leão XIV também expressou objeções claras sobre se a inteligência artificial deveria obter personalidade jurídica. Ele ressaltou que as máquinas são apenas ferramentas, não pessoas. A inteligência artificial não possui corpos, emoções, experiências de vida e relações interpessoais reais, e não consegue compreender o amor, a amizade, o trabalho e a responsabilidade a partir da sua própria experiência.
Ele acredita que se ao sistema de inteligência artificial for dada personalidade jurídica ou direitos independentes, isso poderá obscurecer o verdadeiro sujeito responsável. Quando a IA causa danos, as vítimas podem ter de lidar com um sistema técnico que não pode assumir responsabilidade moral, e as responsabilidades dos criadores, operadores e utilizadores reais podem, portanto, tornar-se mais claras.
O Papa também enfatizou que o desenvolvimento da inteligência artificial deve servir os interesses comuns de toda a sociedade e não pode apenas tornar-se uma ferramenta para algumas empresas e grupos de interesse obterem poder e riqueza. Os cuidados médicos, os conhecimentos, as ferramentas e as oportunidades de desenvolvimento proporcionadas pelo progresso tecnológico deverão beneficiar os diferentes países e grupos sociais de forma mais equitativa, especialmente os mais necessitados.
Na sua opinião, atualmente não faltam discussões de princípios sobre a ética da inteligência artificial no mundo. A verdadeira questão urgente é estabelecer um sistema que possa transformar estes princípios em restrições práticas. A comunidade internacional precisa de formular normas comuns, estabelecer um mecanismo de supervisão independente e clarificar o sistema de responsabilização no desenvolvimento e utilização da inteligência artificial, para que as decisões relevantes possam ser revistas e possam ser fornecidas soluções eficazes quando forem causados danos.
Este discurso dá continuidade à posição central da primeira encíclica de Leão XIV, “Magnifica Humanitas” (“Grande Humanidade”), publicada em maio deste ano. O documento lista a inteligência artificial como um dos temas principais, apela aos países para que reforcem a supervisão legal para evitar que o desenvolvimento tecnológico prejudique a dignidade humana e alerta que a aplicação da inteligência artificial na guerra, no mercado de trabalho e na tomada de decisões públicas pode ter impactos de longo alcance.
O foco adicional de Leão XIV na questão das armas letais autónomas também colocou a posição do Vaticano numa ligação mais direta com as discussões em curso da comunidade internacional sobre a governação da inteligência artificial militar. Reuniões relevantes no âmbito da Convenção das Nações Unidas sobre Certas Armas Convencionais serão realizadas em Genebra, de 16 a 20 de novembro. A supervisão internacional de armas letais autônomas será um dos temas discutidos.
O Papa não apelou à cessação completa da investigação em inteligência artificial, mas defendeu o estabelecimento de limites claros para aplicações que possam causar danos pessoais irreversíveis. Ele espera que os países possam estabelecer sistemas regulamentares eficazes através da cooperação internacional para garantir que a tecnologia esteja sempre sob a responsabilidade e controlo humanos, em vez de permitir que a velocidade de desenvolvimento da inteligência artificial exceda a capacidade da sociedade humana para gerir riscos.
Comentários