Resumo:
O presidente da Microsoft, Brad Smith, apelou recentemente mais uma vez aos países para acelerarem a regulamentação da inteligência artificial e enfatizou que a supervisão actual das empresas de inteligência artificial não é tão forte como a dos produtos de consumo, como leite e máquinas de lavar. Ele acredita que com o rápido aprimoramento das capacidades de inteligência artificial, o mundo atingiu um momento crítico para formular regras de segurança unificadas.
Em entrevista ao Podcast da BBC, Smith descreveu a inteligência artificial como "uma ferramenta e uma arma". Ele disse que a inteligência artificial está trazendo novos riscos para o ambiente de segurança da rede global, por isso é necessário estabelecer um quadro regulamentar de segurança internacional e restringir o desenvolvimento da indústria através de regras claras.
Smith destacou especificamente que o Reino Unido é mais adequado para desempenhar um papel de liderança do que os Estados Unidos e a União Europeia no futuro sistema global de governança de segurança de inteligência artificial. Ele acredita que o Instituto Britânico de Segurança de Inteligência Artificial (AISI) desenvolveu-se rapidamente desde a sua criação em 2023 e tornou-se uma força importante no campo dos testes globais de segurança de inteligência artificial. A agência conseguiu obter acesso a novos modelos em laboratórios de ponta dos EUA e realizar avaliações de segurança independentes antes de serem oficialmente implantados.
No entanto, esse status enfrentou desafios recentemente. O presidente dos EUA, Donald Trump, já criticou anteriormente as chamadas instituições “globalistas”, argumentando que elas estão interferindo nas empresas americanas. De acordo com relatos da mídia, Trump pediu no mês passado à Anthropic e à OpenAI que suspendessem o fornecimento de novos modelos às instituições de testes britânicas até que os Estados Unidos concluíssem sua revisão. Mas o AI Safety Institute do Reino Unido confirmou esta semana que ainda é capaz de acessar e testar a última geração de modelos de IA.
Apesar do cepticismo por parte do governo dos EUA, Smith ainda acredita que a Grã-Bretanha tem uma vantagem única. Ele disse que, aos olhos dos círculos de tomada de decisão em Washington, o Reino Unido e Londres não serão considerados forças reguladoras fortes como a sede da UE em Bruxelas, mas isso ajudará o Reino Unido a desempenhar um papel de coordenação entre a comunidade internacional e a promover o consenso entre todas as partes.
Os comentários de Smith surgem num momento em que cada vez mais líderes da indústria tecnológica apelam à desaceleração do ritmo de desenvolvimento da inteligência artificial. O CEO da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, entre outros, expressaram recentemente publicamente preocupações sobre os riscos da inteligência artificial avançada. Vários incidentes de comportamento anormal em sistemas de agentes de inteligência artificial intensificaram ainda mais a preocupação do mundo exterior com questões de segurança.
Em outubro deste ano, Trump também reuniu executivos da OpenAI, Anthropic, NVIDIA, AMD, SpaceX, Meta e Google na Casa Branca para discutir questões de segurança de inteligência artificial. As empresas participantes na conferência assinaram o que foi descrito como um acordo “eticamente vinculativo”, comprometendo-se a cooperar com auditores independentes para avaliar as capacidades e a segurança dos modelos de inteligência artificial.
Para este acordo, Smith acredita que é um passo positivo, mas ainda há uma lacuna entre uma supervisão verdadeiramente eficaz. Ele ressaltou que a auto-regulação voluntária da indústria muitas vezes apenas restringe as empresas responsáveis, e a verdadeira preocupação são as empresas que não estão dispostas a cumprir as regras.
Smith também propôs uma série de medidas de segurança que gostaria de ver. Por exemplo, quando os sistemas empresariais são invadidos por agentes de inteligência artificial fora de controlo, as agências relevantes devem assumir obrigações legais para emitir alertas atempados; os laboratórios de inteligência artificial devem ser revistos por agências externas de avaliação independentes antes de lançarem novos produtos; ao mesmo tempo, a indústria também deveria estudar mecanismos como "interruptores de parada de emergência" para pausar ou desacelerar a operação de sistemas de inteligência artificial quando os humanos perdem o controle.
Ao falar sobre a direcção futura da governação, Smith apelou a todas as partes para promoverem a cooperação com uma atitude mais racional e pragmática. Ele expressou a esperança de que a Microsoft possa se tornar parte do consenso global e que o Reino Unido possa desempenhar um papel de ponte e de liderança no sistema internacional de governança de segurança de inteligência artificial.
Artigos relacionados:
Presidente da Microsoft, Brad Smith: A IA é ainda menos regulamentada que o leite
Comentários