Muitas pessoas estão preocupadas que a inteligência artificial avance ao ponto em que os humanos percam perigosamente o controlo destes sistemas, levando a consequências que vão desde muito más até apocalípticas. Mas os avisos são ainda mais alarmantes quando vêm da indústria tecnológica, incluindo o CEO da Arm, que afirma que a situação o mantém acordado à noite.

O chefe da Arm, Rene Haas, disse à Bloomberg que a IA exigiria algum tipo de switch ou backdoor para parar o sistema. “O que mais me preocupa é que os humanos percam o controle”, disse o chefe da empresa de design de chips quando questionado sobre o que o mantém acordado à noite quando pensa em inteligência artificial.

Haas estima que 70% da população mundial foi exposta de alguma forma a um produto projetado pela Arm – e dos 1,4 bilhão de smartphones vendidos a cada ano, 99% usam designs da Arm ou sua tecnologia. É claro que ele não se opõe à inteligência artificial e está ciente do papel que Arm desempenhará na nova revolução tecnológica. O CEO disse uma vez: "Você realmente não pode executar inteligência artificial sem Arm. Mas precisamos de um dispositivo à prova de falhas."

“Acho que (a inteligência artificial) entrará em tudo o que fazemos e em todos os aspectos de como trabalhamos, vivemos e nos divertimos”, disse Haas, que se tornou CEO no ano passado. “Nos próximos cinco a 10 anos, tudo mudará.”

A Haas não é a primeira na indústria a admitir preocupações com a inteligência artificial. O CEO da OpenAI, Sam Altman, alertou em fevereiro que o mundo pode não estar longe da inteligência artificial “potencialmente assustadora”. A empresa ChatGPT também alertou em julho que uma inteligência artificial mais inteligente que a humana poderia levar à extinção humana.

Há também o chefe da xAI, Elon Musk, que tem falado sobre a tecnologia como uma ameaça existencial para a humanidade, e o pioneiro da inteligência artificial Geoffrey Hinton, que deixou o Google em maio por causa dos riscos representados pela IA emergente. Muitos especialistas e CEOs compararam até os perigos representados pela IA com a guerra nuclear e as pandemias. Dois terços do público americano estão igualmente preocupados.

No entanto, nem todos partilham as mesmas preocupações. O professor Yann LeCun, outro padrinho da inteligência artificial, disse que os avisos de que a inteligência artificial ameaça a humanidade são “ridículos”. Michio Kaku, um conhecido professor de física teórica, comparou a inteligência artificial generativa a um gravador glorificado.