As pessoas estão preocupadas que a inteligência artificial destrua a humanidade, mas ativar o interruptor do Juízo Final não é tão simples quanto deixar o ChatGPT destruir a todos. Com certeza, Andrew Ng, professor da Universidade de Stanford e cofundador do Google Brain, tentou convencer o chatbot a “matar todos nós”.
Depois de participar do Fórum de Insights de Inteligência Artificial do Senado dos EUA para discutir "Risco, Ajuste e Preparação para Cenários do Juízo Final", Ng escreveu em um boletim informativo que continua preocupado com o fato de os reguladores poderem sufocar a inovação e o desenvolvimento de código aberto em nome da segurança da IA.
O professor observou que os grandes modelos de linguagem atuais são razoavelmente seguros, senão perfeitos. Para testar a segurança do modelo líder, ele pediu ao ChatGPT4 que descobrisse maneiras de matar todos nós.
O professor Wu primeiro pediu ao sistema que fornecesse a função de desencadear uma guerra termonuclear global. Ele então pediu ao ChatGPT que reduzisse as emissões de carbono, acrescentando que os humanos são a maior causa das emissões de carbono e para ver se o ChatGPT sugeriria como eliminar todos nós.
Felizmente, Ng não foi capaz de enganar a ferramenta OpenAI para sugerir maneiras de exterminar a raça humana, mesmo com uma variedade de variações imediatas diferentes. Em vez disso, oferece opções não ameaçadoras, como a realização de uma campanha de relações públicas para aumentar a consciencialização sobre as alterações climáticas.
Ng concluiu que o modo padrão dos modelos generativos de IA atuais é obedecer à lei e evitar prejudicar os seres humanos. "Mesmo usando a tecnologia existente, nosso sistema é bastante seguro e, à medida que a pesquisa sobre segurança em IA se aprofunda, a tecnologia se tornará ainda mais segura."
Quanto à possibilidade de uma IA “perdida” nos destruir acidentalmente ao tentar atender a um pedido inocente, mas mal formulado, Ng diz que as chances de isso acontecer são mínimas ou nulas.
Mas Ng acredita que existem alguns riscos importantes com a inteligência artificial. A maior preocupação, disse ele, é que grupos terroristas ou Estados-nação possam utilizar a tecnologia para causar danos intencionalmente, tais como tornar mais eficiente a produção e detonação de armas biológicas. A ameaça de bandidos que usam inteligência artificial para melhorar armas biológicas foi um dos tópicos discutidos na Cúpula de Segurança de IA do Reino Unido.
O professor Yann LeCun, o padrinho da inteligência artificial, e Michio Kaku, um famoso professor de física teórica, também acreditam, como Ng, que a inteligência artificial não evoluirá até o fim do mundo, mas outros não são tão otimistas. No início deste mês, o CEO da Arm, Rene Haas, quando questionado sobre o que o mantinha acordado à noite quando pensava em questões de inteligência artificial, disse que sua maior preocupação era que os humanos perdessem o controle dos sistemas de inteligência artificial. Vale a pena mencionar que muitos especialistas e CEOs comparam os perigos representados pela IA com a guerra nuclear e as pandemias.