Resumo:
O secretário-geral das Nações Unidas, Guterres, alertou os líderes de vários países na quarta-feira, hora local, que o rápido desenvolvimento da inteligência artificial (IA) está trazendo riscos que não podem ser ignorados, e o mundo não pode suportar o risco de uma corrida para o fundo no campo da segurança da IA. Esta afirmação está em desacordo com o presidente dos EUA, Trump, que disse anteriormente que as medidas regulatórias existentes são suficientes.
Antes da reunião da Assembleia Geral das Nações Unidas, que terá lugar na próxima semana em Nova Iorque, Guterres disse que o reforço da regulamentação da IA será uma das principais questões discutidas nas suas conversações com os líderes mundiais.
Na conferência de imprensa, Guterres disse: "Ao olharmos para as ameaças que enfrentamos em todo o mundo, gostaria de fazer alguns comentários adicionais sobre as preocupações crescentes causadas pelo rápido desenvolvimento da IA."
Ele acrescentou: “A IA tem um enorme potencial para acelerar o progresso rumo ao desenvolvimento sustentável, melhorar a aprendizagem, fortalecer os sistemas de saúde, aumentar a resiliência às alterações climáticas e muito mais.”
Mas ele também destacou: "Cada vez mais pessoas envolvidas no desenvolvimento da IA estão emitindo alertas - elas estão preocupadas que a velocidade de desenvolvimento da IA tenha excedido a nossa compreensão dos seus riscos potenciais."
"Não podemos ignorar as preocupações levantadas, especialmente por aqueles que estão na linha de frente do desenvolvimento da IA. A primeira responsabilidade de qualquer governo é proteger os seus cidadãos, e isso inclui protegê-los das ameaças representadas pela IA."
À medida que as preocupações do público sobre os riscos potenciais da IA continuam a aumentar, há cada vez mais avisos relevantes. O pesquisador antrópico Jacob Coxon disse na semana passada que havia renunciado em parte porque “as pessoas realmente envolvidas no desenvolvimento da IA acreditam seriamente que esta tecnologia poderia matar todos nós antes do final desta década”. Ao mesmo tempo, executivos de algumas das maiores empresas de IA do mundo também apelaram a uma desaceleração no desenvolvimento da tecnologia.
Trump disse na segunda-feira que os Estados Unidos estabeleceram medidas de proteção relevantes para supervisionar as empresas de IA e responsabilizá-las. Ele também minimizou as preocupações expressas anteriormente por executivos do setor.
Há muito que Guterres promove o estabelecimento de um mecanismo global de governação da inteligência artificial. Em 2023, as Nações Unidas estabeleceram um órgão consultivo de inteligência artificial de alto nível composto por 39 membros, incluindo executivos de empresas de tecnologia, funcionários governamentais e académicos dos Estados Unidos, Rússia, Japão e outros países.
Vários diplomatas disseram que quando os líderes globais se reunirem em Nova Iorque para a reunião anual das Nações Unidas, na próxima semana, o Conselho de Segurança das Nações Unidas também poderá realizar uma reunião sobre questões de IA. O Conselho de Segurança das Nações Unidas realizou sua primeira reunião sobre questões de IA em 2023.
Guterres disse que os países com as capacidades técnicas mais fortes na fronteira da IA "deveriam estabelecer mecanismos de comunicação e troca de informações e desenvolver algumas barreiras de segurança comuns para evitar cair numa corrida para o fundo (ou seja, os participantes ganham vantagens competitivas através da redução contínua dos padrões), caso contrário esta competição poderá um dia levar a enormes desastres à escala global".
Guterres afirmou: “Precisamos desenvolver um entendimento comum de que, ao mesmo tempo em que garantimos o desenvolvimento seguro, protegido e responsável da IA, também devemos esclarecer quando podem ser necessárias proteções de segurança mais fortes ou quando podem ser necessárias medidas adicionais para lidar com riscos potenciais à medida que as capacidades dos sistemas de IA continuam a aumentar.”
Artigos relacionados:
O Secretário-Geral das Nações Unidas alerta: A velocidade de desenvolvimento da inteligência artificial excedeu em muito o ritmo de atualização das regras regulatórias
Comentários