Recentemente, Demis Hassabis, fundador da DeepMind, admitiu que a superinteligência artificial desenvolvida por ele corre o risco de exterminar a humanidade. A actual competição de desenvolvimento de IA entrou num estado imparável e é difícil para os humanos controlá-la eficazmente através de métodos de governação externa.Ele abandonou completamente a ideia anterior de confiar em sistemas e comitês de ética para restringir a IA e admitiu que seria difícil para a estrutura de governança desempenhar um papel nas decisões importantes, e ele só poderia confiar em si mesmo para obter o direito de falar para controlar a direção da segurança da IA.

Hassabis sempre foi um defensor ferrenho da segurança da IA. Nos seus primeiros anos, ele imaginou a criação de uma superinteligência absolutamente segura através de supervisão independente e pesquisa e desenvolvimento secretos.


Quando a DeepMind foi vendida à Google em 2014, também exigiu explicitamente a retenção do poder de decisão independente sobre a segurança da IA, o estabelecimento de um comité de supervisão externo e a proibição de aplicações militares.

No entanto, estes conceitos de segurança falharam um após o outro. Depois de participar de reuniões relevantes, Musk decidiu fundar a OpenAI, quebrando a ideia de um único sujeito controlando a IA. As negociações subsequentes de governança com o Google também terminaram em fracasso.

O surgimento do ChatGPT em 2022 perturbou completamente o ritmo da pesquisa e desenvolvimento de IA.O Google caiu na ansiedade da concorrência, a DeepMind se fundiu com o Google Brain, as regulamentações de segurança deram lugar à velocidade de pesquisa e desenvolvimento e as linhas de defesa de segurança anteriores falharam gradualmente.

Hassabis passou assim a compreender a realidade. Sob a pressão da concorrência empresarial e tecnológica, o mecanismo de governação sem fins lucrativos que depende de gigantes empresariais terá dificuldade em sobreviver.

Agora Hassabis mudou de ideia. Sua proposta principal é permitir-se ocupar a posição central de tomada de decisão e controlar a direção da tecnologia em nós-chave, com admiração pelos riscos da IA.

Ao promover o desenvolvimento de modelos como o Gemini, ele segue os princípios básicos da segurança e tenta usar sua influência pessoal para reduzir o risco de fuga da IA.

Os analistas da indústria acreditam que esta mudança reflete a cruel situação atual da competição global de IA. A governação unificada é difícil de alcançar, a janela de segurança da IA ​​continua a diminuir e a humanidade enfrenta enormes desafios relacionados com a sobrevivência da civilização.