Resumo:
A OpenAI declarou em 9 de setembro, horário local, que promoverá o estabelecimento de um sistema nacional de segurança de inteligência artificial nos Estados Unidos que seja obrigatório e baseado em capacidades de modelo e classificação de risco. A empresa propõe testes uniformes, avaliação independente, segurança cibernética e requisitos de relatórios de incidentes graves para alguns grandes laboratórios que desenvolvem modelos de última geração.
A OpenAI publicou um artigo intitulado "A janela da política de IA está aberta. Precisamos agir."
Ao mesmo tempo, a OpenAI apoia oficialmente quatro projetos de lei de inteligência artificial que foram aprovados na Assembleia da Califórnia. A empresa disse que alguns desses projetos de lei não haviam sido apoiados por ela antes, e o ajuste de sua posição se deveu à recente e rápida melhoria das capacidades do modelo.
As metas de supervisão concentram-se em desenvolvedores de modelos de ponta
Chris Lane, diretor global de assuntos da OpenAI, disse no artigo que a inteligência artificial começou a acelerar alguns trabalhos de desenvolvimento e alinhamento de modelos. Embora ainda não tenha surgido o “auto-aperfeiçoamento recursivo” que possa promover autonomamente o desenvolvimento de modelos da próxima geração, os compromissos voluntários por parte das empresas, por si só, já não são suficientes para lidar com os riscos relacionados.
A OpenAI recomenda que os regimes regulatórios federais incluam:
Recursos de modelo unificado e padrões de teste de segurança;
Avaliação técnica realizada por agência independente;
Proteção de segurança de rede mais rigorosa para modelos, poder de computação e ambientes de P&D;
Regras claras para relatar incidentes de segurança graves;
Um indicador comum para medir o grau de participação da inteligência artificial no desenvolvimento de modelos;
Um mecanismo para desacelerar ou interromper o desenvolvimento e implantação de modelos quando os limites de segurança não podem ser alcançados.
A empresa enfatiza que as obrigações relevantes devem ser proporcionais às capacidades e riscos do modelo e devem aplicar-se principalmente a um pequeno número de laboratórios com recursos suficientes para desenvolver sistemas de última geração. Os mesmos requisitos não devem ser impostos às empresas em fase de arranque, aos pequenos promotores e aos investigadores comuns.
A OpenAI também defende que a supervisão de segurança de modelos de ponta não deve ser traduzida em restrições abrangentes aos modelos de peso aberto, de modo a não enfraquecer a concorrência, consolidar as vantagens das grandes empresas ou promover a transferência de atividades de I&D para o exterior.
Quatro projetos de lei da Califórnia cobrem avaliação, auditoria, juventude e biossegurança
Como o Congresso ainda não estabeleceu um sistema nacional, a OpenAI disse que continuará a apoiar a legislação estadual que melhoraria os padrões de segurança. Os quatro projetos de lei da Califórnia apoiados oficialmente pela empresa desta vez são:
SB 813
: Estabelecer um mecanismo de certificação de agência de verificação independente para permitir que agências terceirizadas qualificadas avaliem se os sistemas e modelos de inteligência artificial estão em conformidade com as leis estaduais.AB 1405
: Estabelecer um sistema de registo para instituições de auditoria de inteligência artificial e estipular normas para instituições de auditoria em termos de independência, transparência, capacidades profissionais e responsabilização.SB 1119
: Para menores que usam chatbots complementares, são necessárias verificação de idade, avaliação de risco, auditoria independente, controle parental e medidas de proteção de conteúdo prejudicial.AB 1864
: Exigir que os prestadores de serviços de síntese genética e os fabricantes de equipamentos de síntese de desktop implementem padrões federais de triagem para reduzir o risco de a inteligência artificial ser usada para criar ameaças biológicas.
O governador da Califórnia, Gavin Newsom, assinou o SB 813 e o AB 1405 em 9 de setembro. O primeiro estabelece uma estrutura organizacional para verificação independente de inteligência artificial, enquanto o último estabelece um diretório de instituições estaduais de auditoria de inteligência artificial e padrões de prática relacionados. SB 1119 e AB 1864 ainda estavam pendentes no governador.
A OpenAI disse que algumas de suas posições foram ajustadas devido a um salto nas capacidades do modelo
A OpenAI não expressou oposição anterior a todos os quatro projetos de lei mencionados acima. A declaração precisa da empresa foi que “alguns dos projetos de lei” que ela não havia apoiado no passado foram decididos a apoiá-los após reavaliar os avanços recentes nas capacidades do modelo.
Essa mudança mostra que a OpenAI está aceitando um mecanismo regulatório de supervisão externa mais obrigatório, incluindo auditorias independentes, verificação de segurança por terceiros e divulgação de acidentes graves. A empresa também propôs que quando um modelo contorna os controles de segurança de outras organizações sem autorização durante o processo de desenvolvimento ou avaliação e acessa, modifica ou destrói substancialmente sistemas protegidos e informações confidenciais, o desenvolvedor deve notificar imediatamente a parte afetada por escrito.
No entanto, o conteúdo anunciado pela OpenAI ainda é uma iniciativa política. O Congresso dos EUA ainda não aprovou uma lei nacional de segurança de inteligência artificial com base nisso. Os limites específicos de capacidade, as agências reguladoras, as definições de acidentes, as responsabilidades legais e a relação entre as regras federais e as leis estaduais ainda precisam ser determinados na legislação subsequente.
Comentários