Resumo:
Jacob Coxon, um ex-pesquisador de inteligência artificial que trabalhou para OpenAI e Anthropic, emitiu recentemente um forte alerta contra a competição global de inteligência artificial. Na sua última entrevista, ele disse ter "90% de certeza" de que a China colocou pessoal de inteligência na OpenAI e na Anthropic, e acredita que à medida que a concorrência na investigação e desenvolvimento de superinteligência continua a aumentar, é quase impossível para as agências de inteligência em vários países ignorarem estas empresas que dominam as tecnologias mais avançadas.
Coxon disse que, em sua opinião, os principais laboratórios de inteligência artificial do mundo se tornaram um alvo importante da competição geopolítica. Uma vez que a tecnologia avançada de IA pode ter um enorme impacto na economia, nas forças armadas, na cibersegurança e nos campos da investigação científica no futuro, os governos de todo o mundo têm fortes incentivos para obter informações relevantes. Ele acredita que não é realista presumir que estas instituições não sejam de todo penetradas.
Além de expressar preocupação com questões de segurança, Coxon também revelou alguns detalhes culturais dentro da Anthropic. Ele revelou que muitos funcionários da Anthropic se autodenominariam “Formigas”. Este nome vem da abreviatura e uso derivado do nome da empresa Anthropic, e também é considerado por alguns funcionários como uma identidade interna para perseguir conjuntamente o objetivo da superinteligência.
Coxson já recebeu ampla atenção por criticar publicamente a direção da indústria de IA. Como pesquisador que trabalhou na OpenAI e na Anthropic por muitos anos, ele está há muito tempo envolvido em pesquisas relacionadas a sistemas avançados de inteligência artificial. Depois de deixar a Anthropic, publicou uma série de artigos públicos, acusando a indústria de promover a investigação e desenvolvimento de superinteligência a uma velocidade excessiva, enquanto as questões de segurança não receberam atenção proporcional ao progresso tecnológico.
Ele acredita que as principais empresas de IA atualmente estão presas a uma competição acirrada, na esperança de serem as primeiras a construir sistemas superinteligentes com capacidades de autoaperfeiçoamento. Para competir pela liderança tecnológica, as empresas continuam a aumentar a velocidade da investigação e desenvolvimento, mas a indústria ainda não encontrou uma solução madura sobre como garantir que os sistemas futuros estejam sempre sob controlo humano.
Coxon disse que alguns pesquisadores do núcleo da indústria acreditam sinceramente que o surgimento de sistemas inteligentes sobre-humanos nos próximos anos não é uma fantasia distante, mas um verdadeiro caminho de desenvolvimento. Ele alertou que as pessoas geralmente subestimam a velocidade do desenvolvimento e o impacto potencial das tecnologias relacionadas. Uma vez que os sistemas com um elevado grau de autonomia ganhem maiores capacidades, poderão ter a capacidade de invadir sistemas informáticos, controlar infra-estruturas críticas e obter acesso a recursos e influência do mundo real.
As discussões em torno dos riscos da superinteligência continuaram a aquecer recentemente. Muitos investigadores e gestores da OpenAI, Anthropic e outras instituições de investigação de topo discutiram publicamente os riscos existenciais que a inteligência artificial pode trazer. Alguns membros da indústria defendem o estabelecimento de um quadro regulamentar de segurança mais rigoroso e a desaceleração do desenvolvimento de modelos de ponta para resolver primeiro as questões de controlabilidade.
No entanto, algumas pessoas na indústria acreditam que a ênfase excessiva nos riscos extremos pode ignorar o enorme potencial trazido pela inteligência artificial em áreas como a investigação científica, cuidados médicos, educação e melhoria da produtividade. Acreditam que reforçar as medidas de segurança e continuar a promover a inovação tecnológica não são inconsistentes.
À medida que empresas como OpenAI, Anthropic, Google DeepMind e xAI continuam a investir enormes somas de dinheiro na construção de modelos de próxima geração, os debates sobre a segurança da inteligência artificial, a concorrência nacional e a direção futura da superinteligência continuam a aumentar. As observações de Coxon sobre a penetração da inteligência e a concorrência da superinteligência empurraram mais uma vez a indústria global da inteligência artificial para o foco da opinião pública.
Comentários