Resumo:
À medida que a controvérsia sobre segurança da IA continua a fermentar, Musk propôs: Deixe os concorrentes verificarem uns aos outros. Ele defende que as principais empresas de IA façam testes cruzados antes de lançar modelos e acredita que este mecanismo deve ser promovido globalmente o mais rápido possível e que a participação da China é indispensável.
De acordo com relatos da mídia em 15 de setembro, horário local, no All-In Summit organizado por um conhecido podcast de tecnologia em Los Angeles, de 13 a 15 de setembro, o CEO da SpaceX, Elon Musk, participou remotamente por vídeo.
Ele propôs uma estrutura de governança sobre as questões de segurança dos modelos de IA de ponta:
As principais empresas de IA testam os modelos umas das outras antes de serem lançados oficialmente, e os concorrentes são responsáveis por descobrir e aumentar os riscos de segurança.
Musk disse que este mecanismo de “revisão por pares” não precisa esperar por nova legislação e pode ser iniciado imediatamente.
Musk disse:
"Todas as empresas de IA têm um equipamento de teste, que é uma série de testes usados para verificar se o modelo ajudará a criar armas biológicas, armas nucleares ou se há engano deliberado."
"Fazer com que cada empresa execute a ferramenta de testes de outra pessoa pode ser a melhor coisa que podemos fazer para garantir nossa própria segurança, e isso deve ser promovido o mais rápido possível."
Ele descreveu isso como significando que as empresas de IA não "avaliam mais seu próprio trabalho", mas pelo menos o fazem ser avaliado pelos concorrentes e podem soar o alarme se problemas forem descobertos.
No nível operacional específico, Musk propôs que os desenvolvedores do modelo fornecessem acesso à API aos pares antes da publicação. Caso as questões apontadas não sejam resolvidas, os concorrentes podem declarar publicamente que o modelo não é seguro para lançamento.
Na sua opinião, este
questionamento público trará uma enorme pressão de responsabilidade legal e, portanto, formará uma força vinculativa de facto
.Musk também enfatizou que
para que esta estrutura seja verdadeiramente eficaz, a China deve ser incluída
. Ele ressaltou: “Provavelmente deveríamos chegar a um acordo com a China, o que seria uma espécie de revisão por pares: as principais empresas de IA testariam os modelos umas das outras antes de lançá-los”.Ao falar sobre o investimento em segurança de várias empresas, ele fez uma avaliação relativamente positiva da Anthropic, uma grande desenvolvedora de modelos de IA: "No geral,
acho que a Anthropic investiu mais esforço em segurança do que o desenvolvedor do ChatGPT, OpenAI.
Mas mesmo a Antrópica admite que tem preocupações com o seu modelo. "O mecanismo de “testes mútuos” mencionado por Musk já tomou forma na indústria. No dia 27 de agosto de 2025, segundo relatórios divulgados simultaneamente nos sites oficiais das duas empresas, OpenAI e Anthropic anunciaram os resultados de uma avaliação conjunta de segurança.
As duas partes abriram permissões de API entre si e relaxaram algumas medidas de proteção externa. Eles usaram seu próprio alinhamento interno (ou seja, se o comportamento do modelo está de acordo com as intenções humanas) e testes de segurança para avaliar os modelos divulgados publicamente da outra parte e anunciaram os resultados ao mesmo tempo. Esta é vista como a primeira vez que um laboratório líder abriu testes internos para concorrentes diretos.
Comentários