Resumo:
A OpenAI recentemente apelou publicamente ao governo britânico para formular um quadro regulamentar de inteligência artificial juridicamente vinculativo e exigir a implementação de regras de segurança obrigatórias para os modelos de inteligência artificial de ponta mais avançados. Esta declaração marca uma nova mudança na atitude das principais empresas de IA do mundo em relação à supervisão, e também aqueceu ainda mais a discussão em torno da governação da inteligência artificial no Reino Unido.
Tom Duff Gordon, chefe de política para a Europa, Médio Oriente e África da OpenAI, disse numa entrevista que o governo britânico deveria tomar medidas imediatas para estabelecer um sistema regulatório de segurança de inteligência artificial mais forte. Ele acredita que existe atualmente um raro “período de janela política” e que o Reino Unido deve aproveitar esta oportunidade para estabelecer requisitos de segurança de longo prazo, estáveis e juridicamente vinculativos para os sistemas de inteligência artificial mais avançados através de legislação.
De acordo com o conceito proposto pela OpenAI, o novo sistema regulatório deverá basear-se nos compromissos voluntários das empresas existentes, mas não dependerá mais inteiramente da autodisciplina corporativa, mas passará para um quadro jurídico aplicável. A empresa manifestou a sua vontade de aceitar tais restrições regulamentares e acreditava que as empresas que desenvolvem os modelos de inteligência artificial mais poderosos deveriam ser incluídas num âmbito regulamentar mais rigoroso no futuro.
A posição surge num momento em que os apelos por uma regulamentação mais rigorosa da inteligência artificial crescem rapidamente no Reino Unido. Nos últimos meses, várias empresas líderes em inteligência artificial divulgaram sucessivamente incidentes de risco relacionados com a segurança de modelos, desencadeando preocupações sociais e políticas. Ao mesmo tempo, um pesquisador que trabalhou anteriormente na Anthropic e na OpenAI recentemente criticou publicamente a direção da indústria após deixar o emprego, dizendo que algumas empresas estão “apostando na vida de todos”, intensificando ainda mais a atenção do mundo exterior para os riscos da IA de ponta.
De facto, na sua plataforma eleitoral de 2024, o Partido Trabalhista Britânico prometeu estabelecer um sistema regulamentar vinculativo para um pequeno número de empresas que desenvolvam os modelos de inteligência artificial mais poderosos. No entanto, após tomar posse, o governo abandonou gradualmente a linha de legislação unificada em grande escala e, em vez disso, adoptou um modelo de gestão descentralizada por parte dos reguladores da indústria e testes de segurança voluntários por parte das empresas. Atualmente, o Instituto Britânico de Pesquisa de Segurança em Inteligência Artificial conduz principalmente testes de modelos através da cooperação com empresas de tecnologia e não possui poderes formais de aplicação da lei.
A OpenAI acredita que confiar apenas nos modelos existentes não é mais suficiente para lidar com riscos futuros. Duff Gordon disse que se o Reino Unido estabelecer um novo quadro jurídico, irá alinhá-lo com a UE e alguns sistemas regulamentares emergentes nos Estados Unidos no domínio da governação da inteligência artificial. Ele ressaltou que os Estados Unidos também estão promovendo um plano obrigatório de supervisão de segurança de inteligência artificial baseado nos níveis de capacidade do modelo, e a OpenAI também apoia isso.
No entanto, a OpenAI também enfatizou que a nova lei não deve abranger toda a indústria de IA, mas deve concentrar-se num pequeno número de laboratórios e modelos que estão verdadeiramente na vanguarda da tecnologia. A empresa acredita que o foco regulatório deve estar na segurança nacional, na cibersegurança e nos sistemas avançados de inteligência artificial que podem trazer riscos sistémicos, em vez de impor o mesmo nível de restrições às start-ups ou às aplicações gerais de IA.
De acordo com as recomendações da OpenAI, o futuro quadro jurídico deve conter vários elementos essenciais. Estas incluem testes de segurança obrigatórios de modelos por agências terceirizadas independentes, revisão rigorosa das capacidades de segurança cibernética e o estabelecimento de um sistema de monitoramento e relatório de incidentes de segurança. Assim que ocorrer um comportamento anormal importante ou evento de risco no modelo, a empresa desenvolvedora deverá reportar à agência reguladora de acordo com os regulamentos.
A OpenAI também recomenda que o Instituto Britânico de Segurança de Inteligência Artificial desempenhe um papel central no futuro sistema regulatório. A empresa acredita que a organização acumulou rica experiência técnica e capacidades profissionais e é capaz de assumir responsabilidades importantes, como avaliação de modelos, definição de padrões e supervisão contínua.
Além disso, a OpenAI enfatiza que o design de regras futuras deve ser flexível e adaptável. Dado que a tecnologia da IA se desenvolve a um ritmo extremamente rápido, o quadro regulamentar não deve adotar um modelo rígido, mas deve poder ser ajustado em tempo útil com base nos avanços tecnológicos. Ao mesmo tempo, o Reino Unido deve esforçar-se por promover a compatibilidade das normas internacionais e lançar as bases para a formação de um consenso global sobre a governação da inteligência artificial no futuro.
Os analistas apontaram que esta declaração mostra que a indústria de inteligência artificial está gradualmente mudando de “oposição à regulamentação” para “participação na formulação da regulamentação”. À medida que as capacidades dos modelos continuam a melhorar e as disputas de segurança continuam a aumentar, cada vez mais empresas líderes começam a aceitar a necessidade de restrições legais. No entanto, como encontrar um equilíbrio entre a promoção da inovação e o controlo dos riscos continuará a ser um desafio central para os reguladores do Reino Unido e globais no futuro.
Comentários