Resumo:
Você sabia que, mesmo em comparação com epidemias, clima, guerra e ameaças nucleares, a coisa com maior probabilidade de destruir a humanidade antes de 2100 é a IA? Esta conclusão surpreendente vem do confiável relatório do The Lancet. A Lancet escreveu no relatório do comitê "Ameaças à Saúde Global no Século 21", divulgado em 11 de outubro, que entre 17 ameaças, incluindo mudanças climáticas, epidemias e poluição, o conflito nuclear e o uso malicioso de inteligência artificial ficaram em primeiro lugar e podem levar à extinção humana antes de 2100.
Este relatório foi escrito por 35 especialistas renomados e todo o estudo abrangeu 204 países e regiões ao redor do mundo. O relatório também lembrou que estas ameaças podem interagir e amplificar-se mutuamente.
A parte mais assustadora do relatório é que, embora a IA e o conflito nuclear sejam os principais problemas na destruição da humanidade, os danos causados pela IA excedem em muito os do conflito nuclear.
Se Amoudi dissesse isso sobre o fim da IA, eu poderia apenas ouvir isso por diversão. Afinal, já existem tantas palavras parecidas que meus ouvidos estão quase ficando calejados.
Mas desta vez foi dito pela The Lancet, e eu fiquei com muito medo.
O que diz The Lancet?
O relatório da Lancet foi liderado pelo Instituto de Métricas e Avaliação em Saúde (IHME) da Universidade de Washington. Eles organizaram as ameaças que poderão afetar a saúde humana nos próximos 75 anos em uma "pirâmide de ameaças" em ordem de gravidade, com uma categoria separada no topo:
Ameaças que podem levar à extinção humana antes de 2100.
Existem apenas duas coisas nesta categoria: uma é a "fome nuclear" causada por conflitos nucleares e a outra é o uso malicioso de inteligência artificial.
Mesmo os asteróides que atingem a Terra e as supererupções vulcânicas não atingiram o topo da pirâmide porque o comitê acredita que a probabilidade de sua ocorrência nos próximos 75 anos é "extremamente baixa".
Mas isso não significa que "a IA definitivamente exterminará a humanidade".
O texto original do relatório afirma que “a possibilidade de ocorrência destes dois tipos de riscos ainda é muito baixa”, mas uma vez que ocorram, as consequências serão em todo o nível humano.
Há uma unidade no relatório chamada DALYs, que significa "Anos de Vida Ajustados por Incapacidade". Simplificando, é o número total de anos de vida saudável perdidos por uma pessoa devido a doença, invalidez ou morte prematura.
O comitê utilizou-o para medir quanta “perda de vida saudável” cada ameaça causaria até 2100.
O uso malicioso de IA pode causar perdas de aproximadamente 10,4 bilhões de DALYs até 2100, o que está aproximadamente na mesma escala que a obesidade. Um conflito nuclear causaria aproximadamente 133 milhões de mortes e uma perda de aproximadamente 9,35 mil milhões de DALYs.
A Lancet acredita que a IA é mais perigosa que as armas nucleares. A comissão fez o possível para enfatizar que isto foi concebido para medir “alavancas accionáveis” em vez de enfatizar o resultado mais trágico.
Então, como a IA nos “extermina”? É a Skynet do "Exterminador do Futuro"? Ou MOSS de "The Wandering Earth"?
Nenhum dos dois. A Lancet acredita que só existe um caminho para a IA destruir a humanidade, nomeadamente armas biológicas.
Algumas pessoas usam IA de forma maliciosa para projetar ou modificar patógenos ou toxinas que podem causar vítimas em massa.
O argumento do The Lancet é que a IA está diminuindo o limite para fazer coisas perigosas.
No passado, modificar um vírus exigia laboratórios de primeira linha, equipamentos caros, bem como a "sensação" e o conhecimento tácito acumulado pelos pesquisadores ao longo dos anos. O que o grande modelo pode fazer é ajudar as pessoas a pesquisar literatura, elaborar planos experimentais, escrever materiais de aplicação e explicar por que cada etapa é realizada.
Em 10 de setembro de 2026, a Anthropic divulgou um relatório de inteligência de ameaças, que revelou vários tipos de abusos interceptados entre dezembro de 2025 e agosto de 2026. Entre eles, houve 5 casos em que os usuários usaram Claude de uma forma que "pode apoiar o desenvolvimento de armas biológicas":
• Em maio deste ano, alguém pediu a Claude que ajudasse a redigir um pedido de financiamento para estudar quais mutações no vírus chikungunya poderiam fazer com que ele se espalhasse com mais eficiência e escapasse do sistema imunológico com mais facilidade.
• Algumas pessoas usam-no para planear experiências para tornar os vírus da gripe aviária altamente patogénicos mais adaptáveis aos hospedeiros mamíferos.
• Foi elaborada uma proposta para estudar como alterar a virulência da família dos ortopoxvírus, à qual pertencem a varíola e a varíola dos macacos.
• Alguém estava trabalhando em um projeto de desenvolvimento de medicamentos para compilar um mapa de toxinas do veneno.
• Outro pesquisador usou Claude para ajudar no redesenho computacional de um conjunto de toxinas, incluindo uma toxina bacteriana e uma proteína de um vírus importante que ameaça doenças, e usou deliberadamente termos vagos para se referir a essas toxinas ao escrever relatórios de progresso.
Portanto, o uso indevido da IA certamente causará danos consideráveis a toda a raça humana.
A teoria do Juízo Final da IA foi dividida em dois campos
Na verdade, antes da publicação do relatório da Lancet, as teorias do Juízo Final da IA apareciam todos os meses. Por exemplo, em Setembro, todas as esferas da vida debateram se a IA traria o fim do mundo.
Em 8 de setembro, o ex-pesquisador da Anthropic Jacob Coxon anunciou sua renúncia e declarou publicamente que tanto a OpenAI quanto a Anthropic estavam "apostando em vidas humanas" e que a IA "poderia matar todos nós antes do final desta década". A postagem recebeu mais de 100 milhões de visualizações em um curto período de tempo.
No dia seguinte, Evan Hubinger, chefe de ciência de alinhamento da Anthropic, escreveu: "Acreditamos seriamente que a IA pode matar todos, e pessoalmente acho que a probabilidade é superior a 10% nos próximos dez anos."
O padrinho da IA, Hinton, disse mais tarde que o número de 10% “não era ultrajante”.
Três dias depois, Amoudi fez uma declaração mais específica. Ele acredita que dentro de 6 a 12 meses, um grupo de agentes poderá assumir o controle de toda a Internet, causando perdas de centenas de bilhões de dólares.
Ultraman e Musk, dois inimigos jurados, estão na mesma frente e apoiam "a desaceleração do ritmo de desenvolvimento da IA".
Embora o poder de fogo do lado positivo seja feroz, a força do lado negativo também não é fraca.
Huang Renxun mencionou na entrevista que a probabilidade de a IA destruir o mundo antes de 2030 é de 0%. Ele acredita que a “probabilidade de 10% de a IA matar todo mundo” mencionada por Evan não tem base científica e é uma intuição “irresponsável”.
"A IA que não pode ser controlada com segurança não deve ser liberada." Huang Renxun disse.
Heidy Khlaaf, cientista-chefe do AI Now Institute, acredita que, seja 10% ou 20%, "não é falsificável nem verificável, por isso é inerentemente não científico".
O cientista cognitivo Gary Marcus disse que a ideia de “agentes assumindo o controle da Internet” é “ridícula”.
A razão dele é que a maior parte da infraestrutura subjacente da Internet está nas mãos de grandes empresas como Cloudflare, Google e Amazon AWS. Sem a intervenção das forças governamentais, é difícil imaginar que serão violadas ou controladas durante muito tempo.
Ele também citou um relatório de avaliação do British AI Security Research Institute de que o modelo Mythos mais poderoso da Anthropic só poderia invadir sistemas “pequenos e fracamente protegidos” de forma independente. Enquanto a outra parte melhorar a proteção da segurança da rede, a Mythos ficará indefesa.
Olhando juntos, vocês encontrarão um aspecto muito interessante deste debate:
O lado afirmativo fala de “consequências”, enquanto o lado negativo fala de “evidências”.
Por um lado, você enfatiza que enquanto a probabilidade não for zero, as consequências serão insuportáveis; por outro lado, você enfatiza que não consegue nem explicar como calculou essa probabilidade, então por que deveria deixar o mundo inteiro nervoso?
Além disso, embora Amodei e Altman defendessem a desaceleração do ritmo, a mídia acusou-os de construir um fosso para si próprios em nome da segurança para impedir a entrada de concorrentes subsequentes.
Os círculos acadêmicos apoiam mais Zheng Fang.
Por exemplo, o artigo "Como a IA pode acabar com os humanos?" É mencionado em "Análise do modo de falha dos riscos de civilização" (arXiv:2610.08878) que os riscos catastróficos da IA não exigem que a IA seja consciente, hostil ou tenha uma intenção clara de causar danos.
O risco pode surgir através de vários caminhos interligados: imprecisão autônoma, uso mal-intencionado por seres humanos, falha organizacional e implantação competitiva. O autor também afirmou especificamente que o artigo é “não operacional” e apenas analisa as causas e não fornece métodos para fazer o mal.
Mas até agora ninguém realmente “ganhou” este debate.
Comentários