Resumo:
O presidente da Microsoft, Brad Smith, disse que a supervisão atual da inteligência artificial está longe de ser suficiente, ainda menos do que a de produtos de consumo comuns, como leite e máquinas de lavar. Ele apelou aos países para que estabeleçam regras globais de segurança de inteligência artificial o mais rapidamente possível, incluindo a exigência de que as empresas notifiquem as vítimas quando os sistemas de inteligência artificial ficam fora de controlo e causam danos, apresentem relatórios de acidentes e aceitem análises de agências de avaliação independentes antes de alguns produtos de inteligência artificial serem oficialmente lançados.
Esta posição de Smith contrasta claramente com as reivindicações do presidente dos EUA, Donald Trump. Trump acredita que a indústria da inteligência artificial deve confiar principalmente na sua própria regulamentação para evitar uma intervenção governamental excessiva que enfraquece a capacidade das empresas americanas de competir com os concorrentes chineses. Smith acredita que a inteligência artificial tem os atributos duplos de ferramenta e de arma, e não pode continuar a depender apenas da autodisciplina corporativa para controlar os riscos.
"Sua máquina de lavar agora está sujeita a mais regras de segurança do que a inteligência artificial", disse Smith ao podcast Big Boss Interview da BBC. "Cada caixa de leite que você vê no supermercado está sujeita a regras e inspeções de segurança."
Ele acredita que o desenvolvimento da inteligência artificial atingiu um estágio em que é necessário tomar medidas. Os países devem aprender com a experiência regulamentar de outras indústrias e estabelecer sistemas de segurança adequados à tecnologia de inteligência artificial, em vez de esperar até que ocorram acidentes graves para discutir como responder.
À medida que as capacidades dos modelos de inteligência artificial melhoraram rapidamente nos últimos anos, aumentaram os apelos por uma regulamentação mais rigorosa da indústria. Alguns especialistas na área da inteligência artificial alertaram mesmo que esta tecnologia pode representar uma ameaça à segurança a longo prazo da sociedade humana. Centrando-se nos riscos de segurança cibernética, no comportamento descontrolado e noutros danos potenciais que a inteligência artificial pode trazer, também começaram as discussões dentro da indústria sobre se o desenvolvimento da tecnologia deveria ser abrandado.
Os chefes das empresas americanas de inteligência artificial Anthropic, OpenAI e Google DeepMind apoiaram uma abordagem mais cautelosa ao desenvolvimento da inteligência artificial, e algumas pessoas também apoiam o abrandamento da investigação e desenvolvimento tecnológico em determinadas circunstâncias. No entanto, Trump sempre se opôs a medidas que possam restringir o desenvolvimento da indústria de inteligência artificial dos EUA e enfatizou repetidamente que os Estados Unidos devem permanecer à frente nesta competição tecnológica.
Smith acredita que a inteligência artificial não deve ser simplesmente considerada um produto de software comum. À medida que os sistemas de agentes de inteligência artificial ganham capacidades de execução autónomas mais fortes e os modelos avançados têm uma influência crescente no domínio da segurança cibernética, os riscos relacionados exigem que governos, empresas e agências de avaliação independentes respondam em conjunto.
Ele apelou às empresas para que estabeleçam mecanismos de travagem de emergência para sistemas de inteligência artificial, o que é frequentemente chamado de "interruptor de interrupção" na indústria. Se um sistema de inteligência artificial se comportar fora de controlo ou começar a realizar operações que possam causar consequências graves, as empresas deverão ser capazes de suspender o funcionamento do sistema em tempo útil ou reduzir a sua velocidade e autoridade de funcionamento para evitar uma maior expansão dos riscos.
Smith também defende um sistema obrigatório de notificação de acidentes. Se um agente de inteligência artificial perder o controlo e invadir outros sistemas, ou causar danos aos utilizadores devido a comportamento anormal, as empresas relevantes devem reportar o incidente de acordo com a lei e informar os indivíduos ou organizações afetadas.
Ele acredita que estas medidas devem tornar-se parte do sistema regulatório de segurança da inteligência artificial e não podem apenas depender das empresas para tomarem medidas voluntárias.
Além disso, Smith sugeriu que antes de certos produtos de inteligência artificial de alto risco serem lançados, eles deveriam ser revisados por avaliadores independentes reconhecidos pelo governo para determinar se o sistema atende aos requisitos de segurança relevantes. Isto não significa que todos os produtos de inteligência artificial devam estar sujeitos ao mesmo nível de supervisão, mas que a necessidade de uma avaliação independente antes do lançamento deve ser determinada com base nas capacidades do produto, nos cenários de utilização e nos riscos potenciais.
Smith disse que outras indústrias estabeleceram mecanismos semelhantes de gestão de segurança e que a supervisão da inteligência artificial pode aprender com essas experiências maduras. Ele acredita que a chave é aplicar racionalmente os sistemas existentes de avaliação de riscos, relatórios de acidentes e segurança de produtos ao campo da inteligência artificial.
Ao promover regras internacionais de inteligência artificial, Smith está particularmente optimista quanto ao papel do Reino Unido.
Ele ressaltou que o Reino Unido criou uma agência especializada em questões de segurança de inteligência artificial. A agência foi originalmente lançada como Instituto de Pesquisa de Segurança de Inteligência Artificial durante a administração do ex-primeiro-ministro Rishi Sunak e mais tarde foi renomeada como Instituto de Inteligência Artificial (Instituto de Segurança de IA), responsável por estudar as capacidades e riscos potenciais de sistemas avançados de inteligência artificial.
Smith acredita que o Reino Unido tem uma forte força técnica na avaliação de segurança da inteligência artificial e também tem condições para promover a cooperação internacional. Ele disse que se você perguntar às pessoas da indústria de tecnologia qual país é líder em capacidades de tecnologia de segurança de inteligência artificial, muitas pessoas escolherão o Reino Unido sem hesitação.
Ele acredita que o Reino Unido tem a oportunidade de usar as suas capacidades de investigação e influência internacional para promover os países a estabelecerem regras mais unificadas em torno da segurança da inteligência artificial.
As opiniões de Smith são diferentes da orientação política da administração Trump, que enfatiza a aceleração do desenvolvimento da inteligência artificial. Trump disse repetidamente que quem vencer a competição de inteligência artificial ganhará o futuro. Esta posição reflecte o desejo do governo dos EUA de consolidar a posição de liderança dos Estados Unidos no domínio da inteligência artificial, reduzindo as barreiras regulamentares, incentivando o investimento empresarial e expandindo as aplicações tecnológicas.
No entanto, Smith não acredita que o governo dos EUA rejeitará definitivamente a iniciativa regulatória de inteligência artificial liderada pelos britânicos.
Ele destacou que existem diferenças nas atitudes dos círculos políticos dos EUA em relação ao Reino Unido e à UE. Em Washington, o Reino Unido e Londres não provocam normalmente o mesmo nível de reação política que em Bruxelas e nas instituições da UE. Smith acredita que esta diferença nas relações pode ser uma vantagem no impulso do Reino Unido para padrões internacionais de segurança de IA.
Ele enfatizou que já existem sinais de risco suficientes dignos de atenção, incluindo agentes de inteligência artificial que podem escapar ao controle humano e modelos que são suficientemente poderosos para representar uma ameaça à segurança da rede global.
Quando você vê agentes de inteligência artificial que estão fora do controle humano, quando você vê modelos que são poderosos o suficiente para comprometer a segurança cibernética global, eu diria que é o momento certo", disse Smith.
Ele apelou a todas as partes para que adoptem uma atitude calma mas firme, iniciem o diálogo o mais rapidamente possível e promovam que o governo, as empresas e as instituições de investigação formulem conjuntamente regras relevantes. Ele também expressou a esperança de que a Microsoft possa desempenhar um papel neste processo e que o Reino Unido possa assumir o papel de promover a cooperação internacional.
Vale a pena notar que Smith não negou completamente o valor da auto-regulação da indústria. No final do mês passado, Trump reuniu-se com chefes de gigantes da tecnologia como OpenAI, Anthropic, NVIDIA, SpaceX, Meta e Google na Casa Branca. Os executivos empresariais presentes na reunião assinaram um documento ético concordando em cooperar com auditores independentes para avaliar se os sistemas de inteligência artificial estão a funcionar conforme esperado e para garantir que os sistemas não invadem ou acedem a sistemas técnicos de formas não intencionais.
Este documento visa promover empresas de inteligência artificial para fortalecer as análises de segurança e identificar possíveis problemas por meio de avaliações independentes. Embora a sua força vinculativa seja diferente das leis e regulamentos formais, ainda é considerada uma acção tomada pela indústria tecnológica em termos de governação da segurança.
Smith agradeceu a declaração e disse que a Microsoft estava disposta a assinar os documentos relevantes. Ele acredita que este é um bom começo e um passo necessário.
Mas, na sua opinião, confiar apenas neste tipo de compromisso voluntário já não é suficiente.
Smith salientou que qualquer sistema de auto-regulação enfrentará um problema fundamental: as empresas responsáveis estão geralmente dispostas a cumprir os requisitos de segurança, mas as verdadeiras preocupações são aquelas empresas que não têm sentido de responsabilidade e não estão dispostas a tomar medidas de segurança proactivamente.
Ele acredita que se toda a indústria depender apenas de compromissos voluntários, as empresas que cumpram as regras poderão suportar mais custos, enquanto os concorrentes que não estão dispostos a investir recursos para garantir a segurança poderão continuar a expandir-se rapidamente. Por conseguinte, o estabelecimento de normas mínimas de segurança juridicamente vinculativas ajuda a garantir que todas as empresas devem cumprir os requisitos básicos.
Esta é também a questão central enfatizada por Smith: a regulamentação da inteligência artificial não deve depender apenas da disposição das empresas em assumir responsabilidades, mas deve estabelecer um sistema claro para estipular quais as obrigações de segurança que as empresas devem cumprir e quais as ações que devem ser tomadas quando ocorrem problemas graves no sistema.
À medida que os agentes de IA ganham a capacidade de executar tarefas complexas, invocar ferramentas externas e acessar sistemas técnicos, as abordagens tradicionais de gerenciamento de segurança de software podem precisar se adaptar. O futuro sistema regulatório não só precisará prestar atenção se existem falhas no próprio modelo, mas também considerar quais permissões a inteligência artificial pode obter na operação real, quais recursos ela pode acessar e se a operação pode ser suspensa a tempo quando ocorrer comportamento anormal.
Para a Microsoft, a questão também tem significado comercial direto. A Microsoft é um importante player em infraestrutura de inteligência artificial e aplicativos de modelo e um importante fornecedor de serviços de software e computação em nuvem de nível empresarial. A segurança, a fiabilidade e a controlabilidade dos sistemas de inteligência artificial afetarão diretamente a disposição dos clientes empresariais em implementar amplamente tecnologias relacionadas nos processos empresariais.
A declaração de Smith mostra que mesmo dentro da indústria tecnológica dos EUA, não há consenso completo sobre como a inteligência artificial deve ser regulamentada. Algumas empresas e decisores políticos esperam reduzir as restrições tanto quanto possível para acelerar a inovação e a comercialização; outros acreditam que à medida que as capacidades tecnológicas aumentam, devem ser estabelecidas simultaneamente responsabilidades de segurança e mecanismos de controlo de risco mais claros.
A chave para este debate não é apenas se devemos apoiar o desenvolvimento da inteligência artificial, mas como incentivar a inovação e, ao mesmo tempo, garantir que as aplicações tecnológicas não causam riscos inaceitáveis para os indivíduos, as empresas e a sociedade.
Desde os exemplos de máquinas de leite e de lavar roupa, até mecanismos de travagem de emergência, relatórios de acidentes e avaliações independentes, a mensagem que Smith tenta transmitir é clara: o desenvolvimento tecnológico da inteligência artificial é mais rápido do que a velocidade de ajustamento do sistema regulamentar existente. Se os países esperam continuar a colher benefícios económicos e sociais da inteligência artificial, precisam de estabelecer regras de segurança que correspondam às suas capacidades e riscos o mais rapidamente possível.
Na sua opinião, confiar simplesmente na autodisciplina corporativa não é suficiente para resolver este problema. Um sistema regulamentar verdadeiramente eficaz deve não só encorajar as empresas responsáveis a continuarem a inovar, mas também restringir os participantes que não estão dispostos a controlar proactivamente os riscos.
Comentários