Resumo:
De acordo com a Reuters, um estudo independente descobriu que os modelos de IA da Anthropic melhoraram quase o dobro, já que a IA desempenha um papel cada vez maior no desenvolvimento de modelos subsequentes mais poderosos. As descobertas reforçam os alertas recentes da indústria de que a tecnologia de IA pode avançar mais rapidamente do que os esforços de avaliação de riscos.
Antrópico
As descobertas, divulgadas na quinta-feira pela organização sem fins lucrativos de segurança de IA METR, fornecem uma das evidências mais claras de que a IA está acelerando seu próprio desenvolvimento. Esta tendência poderia abrir caminho para o autoaperfeiçoamento recursivo (RSI), onde os sistemas de IA desenvolvem versões mais poderosas de si mesmos sem intervenção humana.
A avaliação de 11 semanas, realizada de agosto a outubro deste ano, foi baseada em pesquisas confidenciais, entrevistas e dados de desempenho de modelos não divulgados. Os resultados mostram que desde outubro de 2025, o modelo Antrópico melhorou suas capacidades em testes de benchmark 1,9 vezes mais rápido do que antes.
"A partir de outubro de 2026, a Anthropic provavelmente estará melhorando as capacidades de seus modelos em tarefas bem definidas quase o dobro da taxa anterior. O período de comparação anterior foi de março de 2024 a outubro de 2025." METR disse.
O METR também acrescentou: "Há uma incerteza considerável nesta estimativa. Não ficaríamos surpresos se a aceleração real estiver mais próxima de 1,5 ou 2,5 vezes os níveis históricos."
O relatório também enfatiza que a IA atualmente não é capaz de dar uma contribuição altamente importante e totalmente autônoma para o estágio mais crítico do treinamento de modelos.
Pesquisadores antrópicos relataram ganhos significativos de produtividade com o uso de IA para codificar e conduzir experimentos. Inquéritos informais aos empregados sugerem um aumento de cerca de 12 vezes, mas o METR adverte que estes números não são fiáveis.
O CEO da Anthropic, Dario Amodei, pediu uma desaceleração no desenvolvimento de IA avançada em setembro. Atualmente, a empresa se prepara para abrir o capital e pode lançar um IPO ainda este mês. Espera-se que se torne um dos maiores IPOs da história e também se torne um importante teste ao entusiasmo dos investidores em investir em empresas de IA. Essas empresas estão investindo bilhões de dólares no desenvolvimento desta tecnologia.
Nos últimos meses, o potencial da IA para melhorar recursivamente gerou alertas por parte dos pesquisadores de IA. Eles temem que tais sistemas possam tornar-se difíceis de alinhar com os objectivos humanos, difíceis de monitorizar e controlar, e possam, em última análise, representar uma ameaça existencial para a humanidade.
Essa mudança poderá ter consequências de longo alcance para todo o setor. Anteriormente, a indústria de IA investiu centenas de bilhões de dólares na construção de infraestrutura computacional para treinar modelos avançados. No futuro, a própria IA poderá tornar-se uma força importante na promoção do progresso tecnológico.
METR disse: "Estamos convencidos de que esta aceleração não é causada por uma expansão acelerada do poder computacional de treinamento."
Comentários