O CEO da OpenAI, Sam Altman, disse que a OpenAI está trabalhando com o U.S. AI Safety Institute (US AI Safety Institute), uma agência do governo federal projetada para avaliar e abordar riscos para plataformas de inteligência artificial.
Altman fez o anúncio em um post no X na noite de quinta-feira, mas os detalhes eram escassos. Mas - juntamente com um acordo semelhante com a agência de segurança de IA do Reino Unido em junho - parece ter a intenção de contrariar as alegações de que a OpenAI está relegando os esforços de segurança de IA para segundo plano, em busca de uma tecnologia de IA generativa mais capaz e poderosa.
Em maio, a OpenAI dissolveu efetivamente um grupo que trabalhava no desenvolvimento de controles para evitar que sistemas de inteligência artificial “superinteligentes” ficassem fora de controle. Alguns relatórios, incluindo o nosso, sugeriram que a OpenAI deixasse de lado a pesquisa de segurança da equipe em favor do lançamento de novos produtos, levando, em última análise, à divisão entre os dois co-líderes da equipe, Jan Leike (agora chefe de pesquisa de segurança na startup de IA Anthropic) e o cofundador da OpenAI, Ilya Sutskever (que iniciou sua própria empresa de IA de segurança, Safe Superintelligence Inc.).
Em resposta a um número crescente de críticas, a OpenAI disse que removeria cláusulas restritivas de não depreciação que impedem implicitamente a notificação, estabeleceria um comité de segurança e dedicaria 20% do seu poder computacional à investigação de segurança. (A extinta equipe de segurança recebeu a promessa de usar 20% do poder computacional da OpenAI para seu trabalho, mas isso nunca aconteceu). Altman reiterou seu compromisso de dedicar 20% da computação à pesquisa de segurança e reiterou que a OpenAI aboliu sua cláusula de não depreciação para funcionários novos e existentes em maio.
No entanto, essas medidas pouco fizeram para apaziguar alguns observadores – especialmente depois que a OpenAI formou seu comitê de segurança com todos de dentro da empresa, incluindo Altman, e recentemente transferiu um diretor sênior de segurança de IA para outra organização.
Cinco senadores, incluindo o democrata havaiano Brian Schatz, levantaram questões sobre as políticas da OpenAI em uma carta recente a Altman. O diretor de estratégia da OpenAI, Jason Kwon, respondeu à carta hoje, escrevendo que a OpenAI está “comprometida em aplicar protocolos de segurança rígidos em todas as fases do processo”.
O momento do acordo da OpenAI com o Instituto Nacional de Segurança de IA parece um pouco duvidoso, já que a empresa apoiou no início desta semana a Lei do Futuro da Inovação, um projeto de lei apresentado no Senado que autorizaria o Instituto de Segurança como uma agência executiva responsável pelo desenvolvimento de padrões e diretrizes para modelos de inteligência artificial. Tomados em conjunto, estes movimentos podem ser vistos como uma tentativa de captura regulamentar – ou pelo menos a influência da OpenAI na elaboração de políticas de inteligência artificial a nível federal.
Altman é membro do Conselho de Segurança de Inteligência Artificial do Departamento de Segurança Interna, que assessora sobre o "desenvolvimento e implantação seguros e protegidos de inteligência artificial" na infraestrutura crítica dos EUA. Este ano, os gastos da OpenAI com lobby federal aumentaram significativamente, com gastos de US$ 800.000 nos primeiros seis meses de 2024 e US$ 260.000 em todo o ano de 2023.
O Instituto Nacional de Segurança de Inteligência Artificial, sediado no Instituto Nacional de Padrões e Tecnologia do Departamento de Comércio, presta consultoria a um consórcio de empresas, incluindo a Antrópica e grandes empresas de tecnologia, como Google, Microsoft, Meta, Apple, Amazon e NVIDIA. O grupo da indústria tem a tarefa de trabalhar sob a ordem executiva do presidente Joe Biden sobre inteligência artificial emitida em outubro, incluindo o desenvolvimento de orientações sobre equipes vermelhas de IA, avaliações de capacidade, gestão de risco, garantias de segurança e marca d’água de conteúdo sintético.