Resumo:
Representante. Ro Khanna, um democrata da Califórnia, está prestes a apresentar ao Congresso um projeto de lei regulatório abrangente sobre inteligência artificial, na esperança de estabelecer o quadro regulamentar federal mais rigoroso até à data para a tecnologia de IA de ponta. A proposta não só apela à implementação de um sistema de responsabilidade estrita, mas também planeia proibir a utilização de sistemas de inteligência artificial com capacidades de "auto-aperfeiçoamento recursivo" até que o governo federal estabeleça um sistema completo de segurança e protecção.
Este projeto de lei é denominado Lei de Controle Humano sobre IA. O pano de fundo da introdução do projeto de lei surge num momento em que as preocupações nos círculos tecnológicos e políticos dos EUA sobre os riscos potenciais da inteligência artificial avançada continuam a aumentar. Nos últimos anos, muitos executivos de empresas de IA alertaram publicamente que alguns sistemas de inteligência artificial podem exceder as capacidades de controlo humano no futuro, mas o Congresso ainda não formulou um plano regulamentar abrangente.
Ro Cana disse em uma entrevista que a inteligência artificial não só apresenta o risco de ser abusada, mas também pode trazer o risco de perda de controle. Ele acredita que os humanos devem levar a sério estes dois tipos de questões porque o desenvolvimento de tecnologias relacionadas tocou em questões de segurança a nível civilizacional.
De acordo com o conteúdo do projeto de lei, a chamada inteligência artificial de "autoaperfeiçoamento recursivo" será banida. Este tipo de sistema é definido como um modelo de inteligência artificial que pode melhorar autonomamente as suas próprias capacidades ou modificar os seus objetivos principais, mecanismos de controlo e regras de encerramento.
Conforme exigido pela proposta, nenhuma atividade relacionada seria permitida até que as regras federais de segurança fossem estabelecidas. Mesmo que seja inaugurado no futuro, precisará ser aprovado por agências reguladoras especializadas.
O projeto também planeja estabelecer uma nova agência reguladora federal de inteligência artificial para supervisionar empresas que desenvolvem modelos de ponta, como OpenAI, Anthropic, Google DeepMind e xAI.
A agência terá múltiplas responsabilidades, incluindo a formulação de regulamentos de segurança de IA, o estabelecimento de um sistema de licenciamento para treinamento e implantação de modelos, a realização de auditorias de modelos de ponta e o desenvolvimento de padrões para testes contínuos e controle humano eficaz.
Ao mesmo tempo, a nova agência também será responsável por formular uma série de requisitos técnicos de segurança, incluindo ambientes de teste isolados, medidas de isolamento de rede, sistemas de desligamento de emergência e mecanismos de controle para evitar que modelos saiam do ambiente experimental e entrem na operação de Internet aberta.
De acordo com o plano, todos os laboratórios que trabalham no desenvolvimento de modelos de ponta devem passar por auditorias independentes. Os auditores permanecerão nas instituições relevantes durante muito tempo e reportarão directamente às autoridades reguladoras, em vez de passarem informações através da gestão corporativa.
Além do modelo regulatório em si, o projeto de lei também planeja trazer alguns chips avançados de IA e recursos de poder computacional para o escopo da supervisão para fortalecer ainda mais a supervisão de atividades de desenvolvimento de inteligência artificial de alto risco.
O projeto de lei adota uma postura decididamente dura em relação ao sistema de responsabilidade.
A proposta exige que as empresas de inteligência artificial adquiram seguros de responsabilidade civil em grande escala antes de lançarem modelos avançados para garantir a capacidade de compensar danos futuros.
Ao mesmo tempo, o projeto de lei também introduz um mecanismo de responsabilidade criminal. Qualquer funcionário que conscientemente desative proteções de segurança, desative paradas de emergência, adultere registros de log, quebre sistemas de isolamento ou implante modelos conscientemente sem autorização poderá enfrentar penalidades criminais.
O que é ainda mais preocupante é que o projeto de lei também pretende estabelecer disposições de responsabilidade criminal relacionadas com “atos que ponham a humanidade em perigo”. Se determinados sistemas de inteligência artificial causarem danos civis em grande escala, os comportamentos de implantação relacionados poderão desencadear consequências jurídicas mais graves.
Ro Kana disse que este projeto de lei é uma das propostas regulatórias de segurança de inteligência artificial mais abrangentes atualmente. Ele enfatizou que o conteúdo do projeto de lei provém principalmente de intercâmbios de longo prazo com grupos de pesquisa em segurança de inteligência artificial, em vez de ser formulado com base nas opiniões de grandes empresas de tecnologia.
Ao mesmo tempo, Khanna também apelou ao governo dos EUA para promover a cooperação em segurança de inteligência artificial a nível internacional, incluindo a obtenção de um acordo de segurança executório com a China e o estabelecimento de mecanismos de verificação, revisão e controlo para reduzir o risco de proliferação de sistemas perigosos de inteligência artificial no futuro.
Os analistas acreditam que esta proposta representa uma voz crescente dentro do Congresso dos EUA de que a inteligência artificial de ponta não deve depender apenas da autodisciplina corporativa, mas precisa estabelecer um mecanismo de supervisão governamental semelhante ao sistema regulatório de medicamentos.
No entanto, ainda há grande incerteza sobre se o projeto de lei poderá ser aprovado sem problemas no futuro. Os apoiantes acreditam que a regulamentação pode reduzir o risco de perda de controlo, enquanto os oponentes temem que restrições demasiado rigorosas possam enfraquecer a capacidade dos Estados Unidos de inovar na competição global de inteligência artificial.
No entanto, à medida que as capacidades da inteligência artificial continuam a melhorar, o debate em torno de "se os humanos devem estabelecer limites antes que a tecnologia fique fora de controlo" entrou oficialmente no nível legislativo dos EUA.
Comentários