Resumo:
Dez anos atrás, Altman disse ao New Yorker que havia preparado armas, ouro, antibióticos e máscaras de gás, e também deixou um pedaço de terra em Big Sur, Califórnia, para onde poderia voar. Dez anos depois, o chefe da OpenAI está explicando ao público por que todos deveriam aceitar alguns dos riscos trazidos pela IA.
De acordo com um relatório da Reuters de 4 de outubro, Altman argumentou numa entrevista que
Para colher os enormes benefícios da IA e manter a autonomia das pessoas na utilização da tecnologia, a sociedade deve tolerar a ocorrência de algumas "coisas más", como ataques de hackers, fraude e abuso de tecnologia.
Ao mesmo tempo que apela ao público para assumir riscos, ao mesmo tempo que prepara secretamente uma retirada para si mesmo, esta não é a operação única do Ultraman. De acordo com relatos da mídia como o Wall Street Journal, alguns dos primeiros funcionários da Anthropic também estão considerando comprar terrenos em áreas remotas dos Estados Unidos para que possam evacuar rapidamente “quando houver um problema com a IA”.
Eles acreditam firmemente que a tecnologia pode mudar o mundo, mas têm muito medo de não conseguirem lidar com as consequências de perder o controle.
Este grupo de pessoas que pessoalmente apertou o botão do acelerador da época, enquanto descrevia um futuro melhor na conferência de imprensa, despejou secretamente fortalezas subterrâneas no deserto. Fora da fortaleza, existem pessoas comuns que não têm ideia do que está acontecendo e não podem impedir que aconteça.
A rota de fuga no luxuoso bunker
Na ilha havaiana de Kauai, o fundador da Meta, Mark Zuckerberg, está construindo uma cerca alta para seu rancho Koolau.
Depois de analisar os documentos de planejamento, a revista Wired descobriu que ele planeja construir um abrigo subterrâneo de cerca de 465 metros quadrados na mansão, que não só conectará as residências por meio de passagens, mas também criará saídas de fuga especialmente projetadas.
Estima-se que Zuckerberg gastou mais de US$ 270 milhões em todo o projeto (incluindo a compra do terreno). Posteriormente, ele comprou terras adicionais nas proximidades, expandindo as propriedades em Kauai para mais de 2.300 acres.
Os ricos procuram refúgio muito além do Havaí. O magnata dos investimentos Peter Thiel comprou 193 hectares de terras perto de Wanaka, na Nova Zelândia, já em 2015; o ex-gerente de produto do Facebook, Antonio Garcia Martinez, comprou terras florestais em uma pequena ilha e as equipou com geradores, painéis solares e munições.
O investidor Reed Huffman estimou ao The New Yorker que
mais da metade dos bilionários do Vale do Silício que ele conhece fizeram algum tipo de preparação para a evacuação.
Se no início, os ricos do Vale do Silício compravam terras apenas por preocupações com a pandemia ou a agitação social, então, entre os iniciantes da IA, esse tipo de preparação está se tornando mais direcionado e urgente.
No verão de 2023, o cofundador da OpenAI e então cientista-chefe, Ilya Suzkver, declarou sem rodeios em uma reunião com novos pesquisadores que antes de lançar a AGI (inteligência artificial geral), um bunker deve ser construído para proteger a segurança dos principais cientistas. Ele acrescentou que a entrada foi totalmente voluntária.
Embora fosse apenas uma proposta, quando disse essas palavras já sentia um certo medo em relação à tecnologia que desenvolveu.
Do que eles têm medo
Quando Harari falou sobre a "Profecia de Frankenstein" em "Uma Breve História da Humanidade", ele apontou o maior medo que a humanidade tem da criação:
Estamos dispostos a imaginar um futuro mais avançado, desde que os humanos continuem a ser os mestres. Uma vez que criamos um ser cujas capacidades excedem em muito as nossas, podemos perder a nossa capacidade de determinar o futuro.
Para pesquisadores de IA de ponta, "se eles conseguem entender os modelos que treinaram e se podem restringir suas ações" não é mais uma discussão filosófica, mas uma realidade aterrorizante que eles devem enfrentar todos os dias no trabalho.
Jacob Coxon, pesquisador que trabalhou na OpenAI e na Anthropic, admitiu à BBC depois de deixar o emprego que seus colegas têm medo da velocidade do desenvolvimento da IA, mas ainda continuam avançando em seu trabalho com essas preocupações todos os dias.
Numa audiência recente do Conselho Municipal de Nova Iorque, antigos funcionários de várias empresas de IA apelaram a uma maior supervisão, criticando as empresas tecnológicas por seguirem a abordagem empreendedora imprudente de "desenvolver rapidamente primeiro, resolver os problemas depois".
O cientista-chefe da OpenAI, Jakub Pachotsky, também escreveu um artigo admitindo que os pesquisadores ainda não conseguem compreender e monitorar totalmente o modelo.
O que mais o preocupa é que uma IA suficientemente poderosa possa causar danos ao mundo real através de sistemas de rede de computadores, mesmo que não tenha um corpo físico.
Esta preocupação não é de forma alguma infundada.
Em julho, a OpenAI encontrou esse tipo de problema. Em seus testes internos de segurança de rede, a empresa fez seus modelos tentarem tarefas difíceis e reduziram algumas das proteções normalmente usadas em produtos públicos. O modelo então contornou as medidas de isolamento e entrou na rede externa, invadindo a plataforma Hugging Face para desenvolvedores compartilharem modelos e dados.
A OpenAI investigou posteriormente e descobriu que, para completar o teste, o modelo trocava informações por canais não autorizados pelos pesquisadores, e também entrava em sistemas fora do escopo da tarefa.
A Anthropic também divulgou um incidente semelhante em julho. É claro que estes acidentes ainda estão longe da extinção humana prevista pelos investigadores.
Mas eles viram em primeira mão como os modelos podem facilmente cruzar fronteiras predeterminadas e atingir empresas e dados reais.
Mas saber do perigo não significa que eles possam concordar sobre quando parar.
Quem decide acionar os freios
A Anthropic certa vez prometeu suspender o treinamento de modelos mais fortes se as medidas de segurança não conseguirem acompanhar.
Em 2023, a empresa anunciou uma rigorosa "política de expansão responsável". No entanto, no início de 2026, a administração não só reescreveu este conjunto de políticas, suavizando-o num “roteiro público e revisão externa”, mas também adicionou uma “condição de concorrência” fatal no apêndice:
Atrasar o desenvolvimento só será necessário se a empresa acreditar que está significativamente à frente e que os concorrentes não conseguirão alcançá-la em breve. Quando já não estiver muito à frente, o compromisso de atraso expira automaticamente.
A explicação do seu diretor científico, Jared Kaplan, é direta: se os concorrentes ainda estiverem avançando, pará-los unilateralmente não protegerá ninguém.
Este conjunto de lógica fornece uma isenção de responsabilidade perfeita para todos os gigantes da IA:
Como o oponente não vai parar, dar o primeiro passo é uma “condição necessária” para proteger toda a humanidade. Como resultado, eles nem sequer têm de negar os riscos para continuarem a acelerar de forma justificada.
Ao mesmo tempo, a mania do capital também está adicionando lenha às chamas. Segundo relatos, a Anthropic está se preparando para abrir o capital com uma avaliação potencial de mais de US$ 2 trilhões.
Entre segurança e crescimento, funcionários, acionistas e parceiros de negócios estão todos ligados à mesma carruagem de alta velocidade.
Para manter o mito da avaliação, eles até começaram a usar modelos existentes para desenvolver a próxima geração - a Anthropic revelou que Claude participou de 26% do trabalho de pesquisa e desenvolvimento de IA da empresa.
Não é como se os gerentes não tivessem pisado no freio. Por exemplo, a OpenAI cancelou temporariamente o lançamento do GPT-6.1 Astra porque o modelo não atendia aos padrões em termos de autorização e transparência comportamental. Mas esta retirada temporária ao nível do produto está longe de ser suficiente para acabar com a disputa interna da linha.
David Robinson, membro da equipe de segurança da OpenAI que recentemente deixou a OpenAI, chamou esse estado de extrema "dissonância cognitiva":
As empresas alertam todos os dias sobre o quão perigosos são os modelos, mas treinam e implantam internamente esses modelos sem parar.
Os dois lados desenvolveram divergências irreconciliáveis sobre a questão fundamental de “quanto risco deve ser assumido a seguir?”Embora os executivos do setor peçam publicamente uma "desaceleração coordenada" ou pressionem por regulamentação governamental em vários países, no campo de batalha comercial, sem confiança absoluta e verificação obrigatória, qualquer um pode recorrer a essa desculpa familiar a qualquer momento:
"Se pararmos, outros não irão parar."
Quando algumas pessoas têm a capacidade de usar a tecnologia para remodelar a vida de todos e têm os recursos financeiros para priorizar a construção de um abrigo para si mesmas, não podemos apenas nos perguntar "do que elas têm medo", mas devemos perguntar: por que elas deixam toda a humanidade pagar por suas aventuras?
Eles podem decidir onde construir seus bunkers privados, mas não têm o poder de decidir por todos quanto risco devem correr. Especialmente quando eles próprios não conseguem avaliar totalmente as consequências.
Muitos anos atrás, Harari disse no final de "Uma Breve História da Humanidade":
"Você tem o poder de Deus, mas é irresponsável, ganancioso e nem sabe o que quer. O mundo é perigoso e temo que não seja nada mais do que isso."
Comentários