Resumo:
De acordo com o relatório britânico "Financial Times", o cofundador do Google DeepMind e cientista-chefe da AGI, Shane Legg, alertou recentemente que as capacidades de inteligência artificial estão melhorando rapidamente, mas o desenvolvimento das capacidades de IA não deve exceder o nível de garantia de segurança. Ele também refutou os julgamentos do presidente da OpenAI, Greg Brockman, e do CEO da Nvidia, Jensen Huang, de que “a AGI chegou”.
Legg disse que a atual velocidade de desenvolvimento das capacidades de IA é "muito, muito rápida" e que a indústria não pode permitir que as capacidades avancem antes das medidas de segurança. Em relação à recente sugestão feita pelo CEO da Anthropic, Dario Amodei, de desacelerar o lançamento de modelos de ponta por razões de segurança, mas não suspender completamente a pesquisa e o desenvolvimento, Legg acredita que esta direção é "digna de consideração", mas todas as partes ainda precisam discutir seriamente os métodos específicos de implementação.
Legg fez a declaração acima quando a DeepMind lançou oficialmente o DeepMind Institute para estudar a implantação da inteligência artificial geral e seu impacto na ciência, educação, sociedade, política, filosofia e bem-estar humano. De acordo com a definição da DeepMind, AGI é um sistema de inteligência artificial que possui todas as capacidades cognitivas do cérebro humano.
Apesar da recente melhoria significativa nas capacidades do modelo de IA, Legg acredita que ainda é muito cedo para declarar que a AGI foi realizada. Ele disse que ainda mantém sua previsão anterior de que a probabilidade de atingir o “AGI mínimo” até 2028 é de 50%. Legg também foi um dos primeiros criadores do termo "AGI".
Depois que a OpenAI lançou o GPT-6 Astra, Brockman declarou que "agora entramos na era AGI". Huang Renxun também disse que “AGI chegou” e com base nas capacidades do Astra.
Legg disse que mesmo que diferentes organizações tenham definições diferentes de AGI, não está claro se o Astra atende aos próprios padrões da OpenAI. A OpenAI definiu anteriormente AGI como sendo capaz de completar a maioria das tarefas cognitivas de valor econômico. Legg disse que esses modelos são realmente capazes de realizar algumas tarefas impressionantes, mas em sua opinião, suas capacidades ainda não atingiram a definição de AGI da OpenAI.
O DeepMind Institute é codirigido por Legg, pelo presidente do DeepMind, Demis Hassabis, e pelo vice-presidente sênior do Google, James Manica. Legg disse que agora é necessária uma discussão social mais ampla, à medida que o público começa a levar a sério a possibilidade de uma inteligência geral poderosa. O instituto transformará a pesquisa técnica da DeepMind em mais conteúdo que o público possa entender, ao mesmo tempo que convidará especialistas externos para participarem das discussões.
O instituto publicou os três primeiros artigos sobre temas como segurança da IA, política econômica e os princípios do "novo utopismo". Um dos artigos, escrito pelos pesquisadores da DeepMind Rohin Shah e Ankar Dragan, apontou o dedo para a velocidade de lançamento do GPT-6 Astra.
Dois investigadores acreditam que o Astra apresenta uma “preocupante tendência decrescente” na transparência do seu processo de raciocínio. As pressões competitivas sobre as empresas de IA podem minar os seus incentivos para uma maior transparência, e a regulamentação pode desempenhar um papel nesta questão.
No entanto, o artigo acredita que, desde que mecanismos para garantir a transparência sejam adicionados à fase de concepção do modelo, a indústria ainda pode continuar a desenvolver modelos mais capazes. Os pesquisadores apontaram que os modelos de raciocínio mais avançados atualmente podem exibir parte do processo de raciocínio de uma forma que os humanos possam compreender, o que fornece uma janela rara para o mundo exterior observar e estudar o comportamento da IA.
Manica disse que há apenas uma competição de IA na qual o Google espera participar, e essa competição é a competição para acertar esta tecnologia.
Comentários