"AI Godfather" Hinton: O desastre da IA ​​​​está cada vez mais perto, e a probabilidade de 10% de exterminar a humanidade não é uma declaração alarmista

Resumo:

Em 11 de setembro, de acordo com o "Business Insider", "AI Godfather" Geoffrey Hinton disse:

É difícil estimar a probabilidade de que a IA exterminará todos os humanos, mas essa probabilidade não é zero.

10 por cento não parece uma estimativa ultrajante, mas na realidade ninguém sabe como dar uma estimativa razoável". ”

Hinton

Nos próximos 10 anos, a IA “tem uma probabilidade de mais de 10% matar todos os humanos”

"Uau", disse Derbyshire, "Oh meu Deus."

Hinton disse que é difícil estimar a probabilidade específica porque a sociedade humana nunca viu uma tecnologia que "em breve poderá ser mais inteligente do que nós".

“Seria tolice dizer que há apenas 1% de probabilidade”, disse ele. “Ninguém sabe como estimar.”

O que é certo, disse o Prémio Nobel, é que o período em que tal desastre poderia ocorrer diminuiu. “Eu costumava pensar que era de 30 a 50 anos, mas depois foi reduzido para 10 a 20 anos”, disse ele. "Agora, acho que pode levar 10 anos, ou até menos. Outros acham que é muito mais rápido do que isso."

Quanto à forma como isso pode acontecer, Hinton citou riscos que vão desde ataques cibernéticos até o desenvolvimento de vírus mortais pela IA. Embora Hinton não tenha dito por que este cronograma foi significativamente reduzido, as principais empresas de IA, incluindo a Anthropic e a OpenAI, investiram bilhões de dólares na ampliação de seus modelos, e seus produtos lançados recentemente mostraram melhorias significativas em relação aos modelos de apenas alguns meses atrás.

Os comentários de Hinton foram feitos depois que o pesquisador da Anthropic Coxon anunciou sua renúncia na véspera do tão aguardado IPO da empresa. Coxon, que já trabalhou na OpenAI, disse que os gigantes da IA ​​​​estão “apostando com nossas vidas”.

“Aqueles que desenvolvem a IA acreditam sinceramente que a IA poderá matar-nos a todos antes do final desta década”, escreveu Coxon no Twitter.

Hinton disse que os humanos podem embarcar em um caminho de autodestruição ou podem encontrar maneiras de "lidar com os perigos representados pela IA" enquanto percebem o potencial da IA. Reiterou o seu apelo a uma regulamentação global mais forte, observando que, embora os países possam não concordar em todas as questões, todos partilham um desejo comum de salvaguardar a sobrevivência humana.

"Os países têm o mesmo interesse em impedir que a IA substitua os humanos. Portanto, acabarão por cooperar. A questão é: conseguirão agir a tempo?" ele disse.