Resumo:
Se os humanos quiserem evitar cenários apocalípticos, simplesmente desacelerar a pesquisa e o desenvolvimento da inteligência artificial está longe de ser suficiente. Este é o alerta emitido pelo pesquisador canadense de inteligência artificial David Krueger. Ele disse sem rodeios que outras medidas deveriam ser tomadas. Kruger, professor assistente de IA na Universidade de Montreal e membro acadêmico principal do Mila, o Instituto de Pesquisa de Inteligência Artificial de Quebec, disse: “Precisamos suspender imediata e indefinidamente a pesquisa e o desenvolvimento de inteligência artificial de ponta”. Seu perfil pessoal afirma que sua direção de pesquisa é “reduzir o risco de extinção humana causada pela inteligência artificial”.
“Precisamos parar de desenvolver IA mais capaz agora”, disse ele.
Os comentários de Kluger foram feitos depois que o CEO da Anthropic, Dario Amodei, emitiu uma mensagem no sábado pedindo às empresas de IA que reduzissem o ritmo de pesquisa e desenvolvimento. Esta proposta é apoiada por Sam Altman da OpenAI e Elon Musk da SpaceX. Este é um raro consenso entre as principais figuras do setor.
Kruger disse: "As vozes que pedem o abrandamento da investigação e desenvolvimento da IA são muito dignas de reconhecimento", mas não concordou com as soluções específicas das propostas relevantes. "Não concordo com o conteúdo específico destes planos em muitos aspectos. Penso que estas medidas não são suficientemente fortes e não avançam suficientemente rápido."
Amodei defende a implementação de supervisão e cooperação internacional, bem como a introdução de avaliadores terceiros. Os avaliadores terão acesso de nível de funcionário semelhante ao de uma empresa para verificar as medidas de segurança da empresa de IA e relatar incidentes de segurança.
Kruger é o fundador da Evitable, uma organização sem fins lucrativos que educa o público sobre os riscos significativos representados pela IA. Ele teme que as propostas da Amodei não sejam suficientemente fortes e que os actuais métodos de teste de IA já não sejam fiáveis.
Ele disse: "Esses testes basicamente se tornaram inválidos. À medida que a IA se torna mais inteligente, a credibilidade dos testes continuará a diminuir porque a IA tem a capacidade de disfarçar. Ela pode se comportar bem ou pode agir deliberadamente de forma estúpida e enganar nossos testes."
"É só uma questão de tempo"
Na semana passada, um pesquisador sênior de segurança da Anthropic sugeriu que há mais de 1 chance em 10 de que a IA elimine todos os humanos da Terra na próxima década. Alguns acharam que o número era um exagero e apenas para chamar a atenção, mas Krueger classificou a estimativa como "muito baixa".
Ele disse: "Se não revertermos a direção, nos próximos cinco anos, os seres humanos provavelmente serão permanentemente privados do domínio da IA fora de controle. Até então, a extinção humana será apenas uma questão de tempo."
O que ele quer dizer com “perda de domínio” é uma situação em que a IA realmente controla a sociedade, tal como os humanos dominam agora todas as outras espécies do planeta.
“A IA (irá) controlar a infraestrutura física, incluindo todas as etapas do processo de desenvolvimento de mais IA, fabricação de robôs e outros sistemas físicos.”
Ele acrescentou: "Imagine um mundo onde todas as empresas sejam dirigidas por inteligência artificial e os robôs estejam por toda parte. Quase não há empregos reais para humanos, apenas posições nominais. Até mesmo os políticos e todos obedecem às instruções da IA, porque a IA parece ser muito capaz de julgar. Este é o futuro para o qual estamos caminhando."
Ele alertou que a janela para ação é muito curta. Ele disse que se um sistema de IA ficar fora de controle agora, ainda poderemos cortar seu fornecimento de energia. Mas quando uma IA fica fora de controle, ela pode se replicar em tantos computadores que “nem sabemos quais dispositivos desligar”.
"Só podemos tentar desligar todos os equipamentos, e isso é extremamente difícil de implementar." Ele disse: “Portanto, o tempo que nos resta para tomarmos medidas para prevenir esse tipo de risco é muito limitado”.
No entanto, ele disse que sua confiança na ação dos governos nunca foi tão alta. Ele disse que alertas foram emitidos nos últimos 15 anos e que a semana passada foi a primeira vez que o mundo respondeu de forma realista e racional.
"Acho que as pessoas estão finalmente percebendo a gravidade desta crise. Este é um estado de emergência."
Na segunda-feira, o Ministro Federal Canadense para Assuntos de IA, Evan Solomon, foi entrevistado e questionado se ele concordava com a afirmação de que há uma probabilidade de 10% de seres humanos serem destruídos pela IA.
Ele respondeu: "Existem riscos com a inteligência artificial? Claro que existem. Sim, estamos cientes desses riscos."
Solomon disse que conversou com Sam Altman, CEO da OpenAI, na manhã de domingo.
"A inteligência artificial será regulamentada para manter os canadenses seguros." Solomon disse: "Esta é a nossa primeira responsabilidade e a nossa maior preocupação."
Solomon também revelou que lançará em conjunto um anúncio relacionado à segurança da IA na quarta-feira com Joshua Bengio, um cientista da computação canadense conhecido como o "Padrinho da Inteligência Artificial".
Comentários