Em 13 de maio, o Business Insider informou que Daniel Kokotajlo, ex-pesquisador da OpenAI e atual chefe do AI Futures Project, disse que a indústria de IA está correndo para construir sistemas que cada empresa ainda não entende ou controla totalmente.
Legenda: Kokotailo
Numa entrevista com um repórter do "Business Insider" em Maio do ano passado, Cocotailo explicou que a questão central que as empresas de IA enfrentam é o problema do "alinhamento", isto é, os esforços para garantir que os futuros sistemas de IA possam seguir de forma fiável as instruções e valores humanos, mesmo que as suas capacidades em muitos campos tenham ultrapassado os humanos.
Ele disse que os pesquisadores atualmente não entendem completamente como os modelos avançados de IA tomam decisões internamente, e essa incerteza torna difícil garantir que os sistemas futuros estejam verdadeiramente “alinhados” e cumpram de forma estável os objetivos que os humanos desejam que cumpram.
“É uma espécie de segredo aberto, mas ainda não temos uma solução realmente viável”, disse ele sobre a implementação do alinhamento de IA.
Kokotailo deixou a empresa depois de trabalhar na OpenAI de 2022 a 2024, trabalhando em pesquisas preditivas, estudando a rapidez com que os sistemas de IA podem avançar e quais riscos econômicos, políticos e de segurança podem surgir à medida que as empresas constroem modelos mais poderosos.
Hoje, através da sua organização de investigação sem fins lucrativos, o Future of AI Project, ele concentra-se em tópicos semelhantes, concentrando-se na análise da rapidez com que os sistemas de IA poderão desenvolver-se e nos riscos que surgirão se as empresas continuarem a dar prioridade à velocidade e à concorrência.
“Assim que a superinteligência for criada, os humanos não serão mais os líderes deste planeta, pelo menos não o líder padrão”, disse Kokotailo.
Cocotailo disse que muitas pessoas ainda subestimam a velocidade do desenvolvimento da IA porque as discussões muitas vezes parecem ficção científica. O seu aviso surge num momento em que as empresas de IA continuam a investir milhares de milhões de dólares em modelos mais poderosos e centros de dados maiores.