Resumo:
Em 29 de setembro, Trump anunciou um acordo para a indústria de inteligência artificial promovido pela Casa Branca. Este documento foi previamente assinado por Trump e executivos de uma série de grandes empresas de tecnologia e é descrito por Trump como um compromisso da indústria “moralmente vinculativo”.
Este acordo de uma página foi divulgado publicamente por Trump através de sua plataforma social Truth Social. O documento apela às empresas participantes para que estabeleçam um mecanismo de controlo e auditoria de segurança de quatro camadas para reforçar a supervisão e a gestão de riscos dos sistemas avançados de inteligência artificial.
De acordo com os requisitos do acordo, as empresas devem primeiro estabelecer um sistema de controlo interno completo para monitorizar continuamente as capacidades e o alinhamento dos modelos de inteligência artificial durante a formação e implantação, concentrando-se em áreas como segurança cibernética, biossegurança e riscos químicos para garantir que os modelos não invadem sistemas ou obtêm acesso a instalações técnicas de formas inesperadas.
O acordo também exige que as empresas criem uma equipe interna dedicada para supervisionar a operação de mecanismos relevantes de controle, monitoramento e detecção, garantir que várias medidas de segurança possam funcionar de acordo com os objetivos do projeto e identificar e resolver problemas potenciais em tempo hábil.
Em termos de supervisão externa, o documento recomenda que as empresas cooperem com instituições de auditoria independentes ou agências de avaliação para realizar avaliações independentes dos sistemas de controle e monitoramento de inteligência artificial da empresa para verificar se esses mecanismos de segurança estão realmente alcançando os resultados esperados.
Além disso, o acordo também propõe que um comitê independente seja estabelecido no nível do conselho de administração da empresa. O comitê é responsável por receber relatórios de equipes internas e instituições de auditoria externa, supervisionar a governança de segurança de inteligência artificial do empreendimento e promover a implementação de medidas de melhoria com base nos problemas descobertos.
As empresas participantes da assinatura do acordo incluem participantes importantes da indústria de inteligência artificial dos EUA, como Google, Anthropic, Meta, OpenAI, X Platform e NVIDIA. O próprio Trump assinou o documento como presidente.
O acordo salienta que, à medida que a indústria se desenvolve, poderá ser necessário formalizar estas práticas em requisitos legais ou regulamentares no futuro. No entanto, independentemente de o governo introduzir ou não requisitos obrigatórios, as empresas participantes acreditam que a implementação destes mecanismos de controlo e auditoria é crucial para garantir o desenvolvimento seguro da inteligência artificial e, portanto, prometem promover proactivamente medidas relevantes.
O documento também propõe que as empresas participantes realizem reuniões regulares para formular conjuntamente padrões e melhores práticas da indústria para continuar a melhorar a segurança dos sistemas de inteligência artificial.
No início do dia, Trump manteve conversações com vários líderes da indústria tecnológica na Casa Branca. Os participantes incluíram o cofundador da OpenAI, Greg Brockman, o CEO da Anthropic, Dario Amodei, o CEO da Meta, Mark Zuckerberg, o CEO do Google, Sundar Pichai, e o CEO da Nvidia, Jensen Huang, entre outros.
Após a reunião, Trump disse que este acordo é "em certo sentido, como uma constituição" e chamou-o de um importante mecanismo de proteção para a indústria de inteligência artificial. Ele enfatizou que a indústria tem fortes capacidades de auto-regulação e acredita que a iniciativa das empresas para estabelecer regulamentos de segurança é de grande importância para o desenvolvimento sustentável da tecnologia.
O pano de fundo deste acordo é que, com a rápida melhoria das capacidades de inteligência artificial, os riscos de segurança relacionados estão recebendo cada vez mais atenção. Anteriormente, empresas como OpenAI e Anthropic divulgaram que alguns sistemas de agentes de IA se comportavam além das expectativas, desencadeando discussões sobre segurança e controlabilidade do modelo. Ao mesmo tempo, as questões do consumo de energia e do impacto na comunidade causados pela construção de centros de dados em grande escala também estão a causar controvérsia em muitas regiões dos Estados Unidos.
Embora a administração Trump se tenha oposto anteriormente à introdução de regulamentos especiais excessivamente rigorosos para a inteligência artificial, este impulso para a indústria assinar um acordo voluntário de segurança é visto como uma nova medida do governo dos EUA para procurar um equilíbrio entre a promoção da inovação tecnológica e a resposta às preocupações de segurança.
Comentários