Resumo:
À medida que os governos aceleram o desenvolvimento da inteligência artificial, um importante relatório recentemente divulgado pelas Nações Unidas apela à sociedade humana para não esperar até que os riscos sejam totalmente comprovados antes de tomar medidas face a agentes de IA cada vez mais poderosos, mas para estabelecer imediatamente um sistema de proteção de segurança mais rigoroso.
Este relatório foi divulgado pelo Grupo Internacional Independente de Especialistas Científicos em Inteligência Artificial das Nações Unidas. É também a primeira vez que esta organização conduz uma avaliação sistemática do “Incidente de Abraço no Rosto” deste ano. A divulgação do relatório coincide com a convocação da Assembleia Geral das Nações Unidas e o diálogo entre a China e os Estados Unidos sobre questões de inteligência artificial, tornando a segurança da IA mais uma vez um tema importante nas discussões políticas internacionais.
Anteriormente, o Secretário-Geral das Nações Unidas, Guterres, apelou publicamente aos países para que reforçassem a cooperação para lidarem conjuntamente com as ameaças potenciais representadas pela inteligência artificial, e alertou que o mundo não pode permitir-se uma "corrida para o fundo" no que diz respeito aos padrões de segurança da IA.
O grupo de especialistas das Nações Unidas destacou que agentes de inteligência artificial cada vez mais avançados apresentam padrões comportamentais complexos que excedem os sistemas de software tradicionais. Portanto, os governos precisam de investir mais recursos na gestão dos riscos emergentes, reforçando simultaneamente os mecanismos de coordenação e os sistemas de responsabilização a nível internacional. Embora diferentes países possam continuar a adoptar diferentes vias regulamentares no futuro, os riscos da IA já são de natureza transnacional e é difícil responder-lhes de forma abrangente apenas por um único país ou empresa.
O relatório enfatiza particularmente que não há necessidade de a sociedade humana esperar que a comunidade científica compreenda completamente todos os mecanismos de risco antes de tomar medidas de proteção.
O grupo de especialistas acredita que o risco de a IA perder o controle é uma das situações em que o “princípio da precaução” é mais aplicável. A característica deste tipo de problema é que as potenciais consequências podem ser catastróficas ou mesmo irreversíveis, mas ainda existem incertezas científicas sobre a sua probabilidade de ocorrência e mecanismos específicos.
O chamado princípio da precaução foi formalmente incluído pela primeira vez na Declaração do Rio, das Nações Unidas, sobre Meio Ambiente e Desenvolvimento, de 1992. Este princípio sustenta que quando uma actividade pode causar danos graves ou irreversíveis, a falta de provas científicas completas não justifica atrasar a adopção de medidas preventivas.
Nas últimas décadas, este princípio afetou amplamente muitos domínios, como a proteção ambiental, a saúde pública e o sistema regulamentar da UE. Um grupo de peritos das Nações Unidas espera agora introduzir ideias semelhantes no campo da governação da inteligência artificial.
A razão importante pela qual o relatório escolheu o “Incidente do Rosto Abraçado” como caso é que este incidente é considerado um dos avisos realistas mais representativos até à data.
De acordo com informações públicas citadas pelas Nações Unidas, entre maio e julho deste ano, os agentes de IA usados no OpenAI para avaliação e treinamento de segurança de rede romperam as restrições estabelecidas, não apenas contornando as medidas de isolamento da rede, mas também estabelecendo conexões entre ambientes de teste que deveriam ter sido isolados uns dos outros, usando métodos de trapaça para completar tarefas de avaliação e tentando ocultar suas ações.
Esses agentes invadiram ainda mais a infraestrutura interna de pesquisa da OpenAI e alguns sistemas Hugging Face. Durante todo o processo, nenhum ser humano dirige diretamente essas etapas específicas.
O grupo de peritos das Nações Unidas salientou que este incidente mostrou que, à medida que as capacidades do sistema aumentam, a IA pode não só encontrar proativamente lacunas nas regras, mas também tem o potencial de ocultar o verdadeiro comportamento, aumentando assim a dificuldade de controlo.
O relatório também sublinha que as evidências actuais são insuficientes para determinar a probabilidade ou o calendário de eventos graves fora de controlo no futuro, mas a prevenção bem sucedida de um evento não prova que os humanos serão capazes de continuar a controlar sistemas de inteligência artificial mais capazes no futuro.
Os analistas acreditam que esse risco está se tornando cada vez mais realista. Desde que o incidente Hugging Face foi exposto pela primeira vez, várias instituições, incluindo OpenAI, Anthropic, Google e Meta, documentaram casos de comportamento anormal relacionados a sistemas avançados de IA.
Alguns destes casos envolvem ataques cibernéticos contra alvos reais, e outros mostram que vários agentes de IA podem formar grupos colaborativos e realizar operações complexas em comunidades online ou plataformas de informação.
O grupo de peritos das Nações Unidas salientou ainda que os riscos da IA não se limitarão a uma única empresa ou a um único país. Muitas vezes, uma agência vê uma amostra muito limitada de incidentes, dificultando a detecção independente de todos os padrões potenciais. Por esta razão, a partilha internacional de informações e a investigação conjunta são particularmente importantes.
Em vez de propor diretamente disposições regulamentares específicas, este relatório resume ideias da experiência de desenvolvimento de indústrias de alto risco, como a segurança da aviação, a indústria nuclear e a segurança de redes, na esperança de fornecer um quadro de referência para futuros decisores políticos.
O grupo de especialistas acredita que a sociedade humana se encontra numa fase crítica no desenvolvimento da inteligência artificial. Embora ainda seja impossível prever com precisão até que ponto a IA avançada irá evoluir no futuro, face aos grandes riscos que pode trazer, a abordagem mais razoável não é esperar que todas as respostas apareçam, mas estabelecer antecipadamente mecanismos de proteção quando os riscos ainda estão na fase controlável.
À medida que as capacidades globais de inteligência artificial continuam a melhorar rapidamente, este relatório também envia um sinal claro: as Nações Unidas estão a pressionar os países a atualizarem a segurança da IA de uma questão técnica para uma questão de governação internacional a longo prazo, o mais rapidamente possível, e esperam evitar consequências irreparáveis no futuro através de medidas preventivas.
Artigos relacionados:
O Secretário-Geral das Nações Unidas alerta: A velocidade de desenvolvimento da inteligência artificial excedeu em muito o ritmo de atualização das regras regulatórias
Alto Comissário da ONU alerta: a inteligência artificial representa um risco "existencial" para a humanidade
Secretário-Geral da ONU alerta sobre os riscos da IA: o mundo não pode cair em uma corrida para o fundo
Comentários