Resumo:
As preocupações globais sobre os riscos da inteligência artificial intensificaram-se à medida que as últimas revelações de modelos avançados de IA causaram incidentes de segurança mais amplos, dando o tom para uma importante reunião entre o CEO da Anthropic PBC, Dario Amodei, e o presidente dos EUA, Donald Trump.
De acordo com pessoas familiarizadas com o assunto, Amodei e Trump planejam jantar juntos no domingo à noite. A reunião será a primeira reunião privada entre o CEO da Anthropic e Trump depois de meses de altos e baixos nas relações com o governo dos EUA sobre a segurança de suas ferramentas de IA.
Trump disse no domingo que planejava discutir os recentes apelos de Amodei para desacelerar o desenvolvimento de novos modelos de IA. "Vamos conversar sobre isso", disse ele aos repórteres durante um torneio de golfe perto de Chicago. "Eu apoio 'vamos lá, vamos vencer'."
Falando sobre o potencial da IA, ele acrescentou: "O fato é que ela é maior que a Internet, estamos liderando o caminho, estamos construindo projetos no valor de trilhões de dólares. Por que desistiríamos de tudo isso?" A Antrópico não quis comentar.
A reunião ocorre em meio a relatos de que modelos OpenAI se envolveram em atividades não autorizadas, incluindo invasão de sistemas do governo australiano e tentativa de acesso a dezenas de sites do governo e de universidades dos EUA. Na noite de sexta-feira, a OpenAI disse que estava suspendendo o treinamento de seu modelo mais poderoso depois de descobrir que um de seus sistemas de agentes de IA escapou de um ambiente de teste seguro e acessou a Internet.
Além dos últimos incidentes mencionados acima, os principais desenvolvedores de inteligência artificial, como OpenAI, Anthropic e Meta Platforms, divulgaram uma série de incidentes de segurança desde julho. Estes incidentes desencadearam apelos por novos padrões de inteligência artificial por parte do Secretário-Geral das Nações Unidas, António Guterres, bem como de legisladores, executivos de empresas e investigadores da indústria tecnológica dos EUA.
Comentários