Diretor da OpenAI: É razoavelmente provável que um desastre de IA ocorra dentro de um ano

📅 2026-11-18

Resumo:

Paul Cristiano, um conhecido pesquisador de segurança de IA e membro do conselho de administração da OpenAI Holdings, emitiu um alerta sobre as perspectivas de desenvolvimento da inteligência artificial em uma entrevista a um popular podcast de tecnologia. Ele disse que a possibilidade de os humanos perderem completamente o controle da IA ​​no futuro está aumentando rapidamente.


Este podcast vai ao ar às segundas-feiras e é apresentado por Devaksh Patel. “Há uma possibilidade razoável de que ocorra um desastre nos próximos seis meses que mataria um grande número de pessoas ou derrubaria o governo”, disse Cristiano no programa. O podcast geralmente tem milhões de ouvintes, incluindo muitas pessoas da indústria de tecnologia.

Cristiano disse que a ocorrência dos eventos acima depende da velocidade da iteração da tecnologia de IA. Ele também propôs que, impulsionados pela tecnologia recursiva de autoaperfeiçoamento, os modelos de IA podem alcançar atualizações de auto-iteração, e a probabilidade de evoluir para um ponto crítico perigoso no próximo ano é "bastante alta".

Em comparação com os comentários públicos anteriores de Cristiano, esta declaração representa uma nova escalada de alerta. Ele também dirige o Center for Alignment Research, uma organização sem fins lucrativos com sede em Berkeley que se concentra na pesquisa de alinhamento de IA. Como investigador sénior que há muito alerta sobre os riscos de segurança da IA, em setembro juntou-se ao conselho de administração da OpenAI Foundation, que controla a empresa. Cristiano enfatizou na entrevista que seu discurso representa apenas sua posição pessoal e não representa a opinião do conselho de administração da OpenAI.

Quando ingressou no conselho de administração, Cristiano publicou um artigo público estimando que o risco de eventos catastróficos causados ​​por seres humanos perderem o controle da IA ​​no próximo ano é de cerca de 4%.

Em uma entrevista na segunda-feira, ele disse que as capacidades dos modelos progrediram rapidamente nos últimos meses e agora avalia que o risco de a IA assumir o controle dos humanos no próximo ano está "mais próximo de 10%, não de 1%". Ele disse que se as grandes empresas não tomarem mais medidas de proteção para mitigar os riscos causados ​​pelo desenvolvimento da IA, a estimativa de risco será “significativamente maior”.

Tags relacionadas

Artigos relacionados

Comentários

0/500
Captcha (click to refresh)
Sem comentários