Resumo:
De acordo com relatórios da British Broadcasting Corporation (BBC), do The Guardian e de outros meios de comunicação estrangeiros no dia 12,
Brad Smith, presidente da Microsoft Corporation nos Estados Unidos, pediu recentemente uma supervisão mais forte da inteligência artificial (IA). Ele alertou que a atual supervisão da IA não é tão forte quanto a do leite e das máquinas de lavar.
Além disso, o fundador da Microsoft, Bill Gates, também pediu o fortalecimento da supervisão da IA em entrevista à mídia norte-americana no dia 11. Esta “tecnologia mais perigosa” inventada pela humanidade não pode ser completamente deixada ao controle das suas empresas de desenvolvimento. Gates disse que permitir que os gigantes da tecnologia se autoregulassem poderia expor o mundo a ameaças cibernéticas sem precedentes.
Fonte do mapa de dados de Bill Gates: Mídia dos EUA
"No momento, sua máquina de lavar está sujeita a mais regras de segurança do que a IA. Cada caixa de leite que você vê no supermercado deve cumprir as regras de segurança e ser inspecionada." Smith disse recentemente numa entrevista a um programa da BBC que a IA é ao mesmo tempo uma “ferramenta” e uma “arma” e precisa urgentemente de ser regulamentada.
Smith acredita que regras de segurança globais precisam ser estabelecidas, as empresas precisam estar equipadas com "dispositivos de frenagem de emergência" para suspender ou desacelerar a operação da IA quando ocorre algum tipo de situação fora de controle, e (as partes relevantes) precisam ter obrigações legais para com as "vítimas" de agentes de IA fora de controle.
Brad Smith foi entrevistado pela mídia britânica. Fonte: Captura de tela do vídeo
Russia Today (RT) informou no dia 12 que Bill Gates também disse em entrevista à CNN: "Para (a) tecnologia mais perigosa já inventada pela humanidade, se você acha que esta é a conclusão final, ou seja, o único controle e equilíbrio na sociedade é a supervisão da própria empresa, obviamente não é suficiente." Gates disse que as agências governamentais devem desempenhar um papel mais ativo. Ele também comparou a IA às indústrias aeronáutica e farmacêutica, onde as autoridades reguladoras aplicarão padrões de segurança.
Gates também identificou os ataques cibernéticos como a ameaça mais imediata, alertando que os criminosos podem tirar vantagem dos modelos de IA que removem as salvaguardas de segurança contra hackers e bioterrorismo.
“Quando maus atores, sistemas inseguros e os modelos mais recentes se juntarem... então enfrentaremos muitas consequências negativas não intencionais durante o próximo ano”, disse Gates.O Guardian mencionou no seu relatório que os casos de IA “fora de controlo” estão a aumentar. Neste verão, OpenAI e Anthropic divulgaram que seus modelos de IA romperam o ambiente de teste e entraram na Internet pública durante um ataque à rede e teste de capacidade de defesa, e acessaram sistemas de outras instituições sem autorização. Isto despertou preocupações sobre o risco de a IA “fora de controle”.
As discussões em torno da velocidade de desenvolvimento, dos riscos de segurança e da regulamentação governamental da indústria de IA dos EUA esquentaram recentemente. Anteriormente, muitos empresários de tecnologia nos Estados Unidos apelaram às empresas de inteligência artificial para abrandar o desenvolvimento de tecnologias de ponta. Dario Amodei, CEO da empresa americana de IA Anthropic, disse em artigo de 12 de setembro que, considerando os riscos de segurança, as empresas de inteligência artificial precisam desacelerar o ritmo de desenvolvimento dos modelos mais avançados. Sam Altman, CEO do Open Artificial Intelligence Research Center (OpenAI) dos EUA, e o empresário americano Elon Musk expressaram posteriormente seu apoio ao controle da velocidade de desenvolvimento de modelos de IA.
Comentários