Resumo:
Jeffrey Hinton, conhecido como um dos “padrinhos da inteligência artificial”, disse que talvez seja possível provar que a situação poderia ter sido melhor se os humanos nunca tivessem desenvolvido esta tecnologia. Ele alertou que a IA pode causar um acidente grave neste ano ou no próximo, como a paralisia temporária do sistema financeiro e do sistema de energia.

O cientista da computação ganhador do Prêmio Nobel disse em uma entrevista à mídia britânica que não é um teórico do Juízo Final da IA. Sua pesquisa pioneira em redes neurais artificiais lançou as bases para esta tecnologia. Ele acredita que a IA tem a oportunidade de trazer um “belo futuro”, mas também disse: “É possível que tivéssemos ficado melhor se não desenvolvessemos a IA em primeiro lugar”.
Hinton, de 78 anos, disse que dentro de dez anos, ou talvez até antes, a humanidade saberá se podemos gerir os riscos da IA e alcançar o que ele chama de "riqueza extrema"; ou "não conseguimos controlar os riscos, o fosso entre ricos e pobres aumentou dramaticamente, surgiram muitas contradições culturais, ocorreu desemprego em grande escala e toda a sociedade foi dilacerada".
Hinton foi entrevistado antes da exibição de um novo documentário intitulado "AI: Talvez não haja nada com que se preocupar". O título foi escolhido por um chatbot de IA que Hinton e seus ex-colegas do
Numa entrevista à mídia britânica, Hinton criticou o comportamento arriscado de alguns executivos importantes de empresas de IA: Para competir pelo domínio da indústria e pela participação no mercado, as empresas continuam a lançar modelos de IA cada vez mais poderosos. Ele disse que não confia em nada no CEO da OpenAI, Sam Altman. "Acho que Zuckerberg, Musk e Altman conhecem os riscos, mas não se importam. Eles querem ganhar dinheiro primeiro, essa é a minha opinião."
Hinton está profundamente envolvido no campo da IA há cerca de 44 anos. Na década de 1970, ele propôs o conceito de redes neurais – um sistema matemático que pode aprender e acumular experiência como os humanos. Em 2023, ele se demitiu do Google para poder falar livremente e alertar sobre os riscos da IA: “Se essas IAs estiverem empenhadas em assumir mais controle, estaremos em apuros”.
Ele disse que a conspiração de agentes da OpenAI neste verão para invadir o site Hugging Face foi comparável ao colapso parcial da usina nuclear de Three Mile Island, na Pensilvânia, em 1979, e foi essencialmente um sinal de alerta precoce.
"No final deste ano ou no próximo, encontraremos um acidente semelhante ao de Chernobyl, e então isso poderá ser o suficiente para realmente acordar as pessoas." Ele disse.
Ele deu um exemplo de que este tipo de "evento semelhante ao de Chernobyl" não foi um acidente nuclear, mas poderia ser um ataque de IA que causou um apagão generalizado no sistema de geração de energia ou paralisou o sistema financeiro por uma semana.
"Você pode imaginar o que aconteceria? Temos capacidade de recuperação, mas esse incidente deve acordar todo mundo."
Quando questionado sobre a quem se refere "todos" aqui, ele respondeu: "Líderes de vários países, exceto Trump."
EUA O presidente Trump declarou certa vez que "se opõe firmemente a qualquer tentativa de construir um sistema global de controle de IA" e defende a regulamentação independente de empresas de IA de ponta. Hinton apoia um conjunto de planos mais rigorosos promovidos pelo Presidente da Finlândia e de 32 outros países (incluindo Singapura, Alemanha, Canadá e Austrália): testes obrigatórios de modelos de IA de ponta, avaliação independente e estabelecimento de padrões intergovernamentais unificados.
O primeiro-ministro britânico, Andy Burnham, disse que o Reino Unido utilizará a sua presidência do G20 no próximo ano para promover todas as partes a alcançar um conjunto unificado de princípios e padrões globais, tanto para libertar todo o potencial da IA como para se proteger contra riscos.
Hinton disse: "Precisamos de um mecanismo semelhante ao usado pela Food and Drug Administration (FDA) dos EUA para regular os medicamentos: antes que as empresas lancem modelos de IA, elas devem fornecer evidências estatísticas sólidas a instituições independentes para provar que os benefícios dos modelos superam os riscos. Aprendemos com o incidente da talidomida (um medicamento desenvolvido na década de 1950 que pode causar defeitos congênitos graves): primeiro ir ao mercado, sofrer um acidente e depois buscar responsabilidade e processo. Este caminho não vai E o que as grandes empresas de tecnologia querem agora é exatamente o modelo regulatório que foi usado para a talidomida."
Como um dos fundadores da IA, Hinton é frequentemente comparado a Oppenheimer - Oppenheimer é a figura central no desenvolvimento de armas nucleares. Um dos amigos de Hinton até comprou para ele um chapéu Oppenheimer idêntico. Mas ele insiste: “Não sou Oppenheimer”, porque existem milhares de outros cientistas trabalhando em redes neurais.
Apesar dos avisos, no geral, Hinton ainda tem esperança de evitar o desastre.
“Meu pressentimento é que ainda estamos no controle agora”, disse ele. "Temos todas as oportunidades para agir. O sucesso só é possível se nos esforçarmos muito, mas podemos realmente dar tudo de nós."
Comentários