Resumo:
A OpenAI insta os Estados Unidos a assumirem a liderança no desenvolvimento de padrões para inteligência artificial (IA) de ponta com outros países, em resposta às crescentes preocupações sobre os danos potenciais da IA. A OpenAI afirmou numa publicação no blogue na segunda-feira que, para desenvolver a inteligência artificial com segurança, é necessário desenvolver padrões técnicos internacionais, especialmente para ajudar a definir que tipos de incidentes envolvendo modelos de IA devem ser notificados, para esclarecer como os países podem cooperar no desenvolvimento da IA, e para melhorar o acesso ao poder computacional necessário para desenvolver tais tecnologias.
“Para que o progresso contínuo na IA seja seguro e benéfico, é necessário avançar na investigação alinhada e desenvolver padrões comuns para fornecer orientação para o desenvolvimento da IA em laboratórios e países”, afirmou a OpenAI.
A OpenAI disse que seu CEO, Sam Altman, planeja falar ao Conselho de Segurança das Nações Unidas na quarta-feira sobre IA e questões de segurança internacional.
EUA O secretário do Tesouro, Bessent, disse no fim de semana passado que os Estados Unidos propuseram estabelecer um mecanismo de relatório para cobrir incidentes de IA com implicações para a segurança nacional.
A OpenAI enfatizou em uma postagem no blog que os países deveriam trabalhar juntos para desenvolver padrões nacionais e internacionais complementares para desenvolver os modelos de IA mais capazes. A OpenAI sugere que este trabalho pode ser promovido através de agências de segurança de IA existentes em vários países, incluindo o Centro de Padrões e Inovação de IA (CAISI) do Departamento de Comércio dos EUA, que auxilia no teste de modelos de IA e no desenvolvimento de diretrizes relevantes.
A OpenAI também pediu o desenvolvimento de padrões para lidar com a crescente capacidade da IA de trabalhar de forma autônoma, observando que o autoaperfeiçoamento recursivo "totalmente autônomo" - onde a IA é capaz de modificar seu próprio código ou melhorar suas capacidades sem qualquer intervenção humana - não deve ser buscado "a menos que e até que a segurança possa ser garantida".
Comentários