O primeiro painel científico independente de peritos em inteligência artificial criado pelas Nações Unidas divulgou um relatório de avaliação preliminar afirmando que o rápido desenvolvimento da inteligência artificial (IA) trouxe enormes benefícios potenciais para países e pessoas em todo o mundo, mas também traz consigo grandes riscos. Este relatório será apresentado aos governos no primeiro Diálogo Global sobre Governação da Inteligência Artificial das Nações Unidas, em Genebra, de 6 a 7 de julho. É a primeira avaliação científica independente da inteligência artificial à escala global. Espera-se que uma versão completa e abrangente seja lançada no próximo ano.
O relatório foi escrito em coautoria por 40 cientistas e especialistas de renome de todas as regiões do mundo, que participaram a título individual durante um mandato de três anos e não estavam diretamente vinculados a qualquer governo, agência ou empresa, e tinham como objetivo fornecer provas científicas independentes aos decisores. O relatório salienta que, no contexto da rápida evolução das capacidades de inteligência artificial, os decisores políticos necessitam urgentemente de uma base científica fiável para formular quadros regulamentares. No entanto, a compreensão actual de alguns sistemas altamente autónomos por parte da comunidade científica ainda está atrasada e a adaptabilidade da sociedade e do governo é obviamente insuficiente. As ferramentas eficazes para restringir este tipo de inteligência artificial altamente autónoma ainda são limitadas.
O copresidente do painel de especialistas, Yoshua Bengio, enfatizou no relatório que as evidências científicas de “comportamento enganoso” na inteligência artificial estão crescendo. Salientou que, à medida que as capacidades do sistema melhoram, a investigação científica não pode garantir que a inteligência artificial não trará danos catastróficos – tais danos podem ter origem no comportamento do próprio sistema ou de utilizadores com motivos maliciosos. O relatório conclui que “os benefícios potenciais da inteligência artificial são enormes”, mas alerta que os efeitos negativos da tecnologia não podem ser ignorados se faltarem restrições adequadas e um planeamento cuidadoso durante a rápida implantação em grande escala.
O relatório salienta que a rápida promoção da inteligência artificial está a mudar profundamente os sistemas sociais, económicos e ambientais, e também coloca desafios à saúde mental dos utilizadores. Do lado positivo, as aplicações de inteligência artificial demonstraram a capacidade de melhorar a eficiência e criar novo valor em muitos domínios, como a educação, os cuidados médicos, a investigação científica e a produção industrial. Mas do lado negativo, o relatório alerta que a IA pode ser utilizada como uma ferramenta destrutiva ou para minar a confiança pública, a coesão social e a deliberação democrática (discussão deliberativa), através da manipulação de informações e emoções.
De acordo com esta avaliação preliminar, mais de mil milhões de pessoas em todo o mundo utilizam a IA de conversação todas as semanas, mas o nível de aplicação é altamente desigual entre países e indústrias, com os países em desenvolvimento geralmente ficando para trás em termos de acesso e utilização. Em termos de concentração do poder computacional, os dados citados no relatório afirmam que entre os 500 principais supercomputadores de inteligência artificial do mundo, os Estados Unidos representam cerca de 75% do poder computacional e a China representa cerca de 15%, destacando que a actual infra-estrutura de inteligência artificial está altamente concentrada em algumas economias.
O relatório também chamou a atenção para o grave desequilíbrio a nível linguístico. Existem mais de 7.000 idiomas no mundo, mas os atuais modelos convencionais de inteligência artificial cobrem apenas um número muito pequeno deles no treinamento. Para muitos idiomas, os problemas de qualidade da tradução automática são proeminentes e os erros não afetam apenas a comunicação diária, mas também podem causar consequências graves em cenários que são altamente sensíveis à segurança pessoal, como diagnóstico médico e tomada de decisão sobre tratamento.
O painel de peritos salientou que os riscos trazidos pela proliferação da inteligência artificial começaram a tornar-se evidentes em muitos domínios. Estes incluem potenciais impactos negativos nos direitos humanos, nos sistemas sociais e no ambiente natural, tais como a frequência crescente de material de abuso sexual infantil gerado por inteligência artificial e conteúdo de violência sexual implementado com recurso a tecnologia deepfake na Internet. O relatório acredita que fenómenos relacionados expuseram deficiências óbvias na supervisão de conteúdos, na justiça criminal e na cooperação transnacional, e há uma necessidade urgente de reforçar simultaneamente as respostas a nível técnico e institucional.
Em termos do ambiente de informação, o relatório alerta que a inteligência artificial reduziu significativamente o limiar para a produção em grande escala e a disseminação precisa e direcionada de “conteúdo persuasivo”. Esta tendência poderá levar a uma erosão progressiva da integridade da informação, minando assim a confiança do público nos meios de comunicação social e nas instituições, minando a coesão social e interferindo nos mecanismos deliberativos dos processos democráticos que se baseiam em factos e no debate fundamentado. Os especialistas acreditam que, face a tais mudanças, os quadros regulamentares tradicionais de segurança da informação e dos meios de comunicação social tornaram-se insuficientes, sendo necessário actualizar as ideias de governação e reforçar a coordenação internacional.
O relatório também salientou que a maioria dos países - incluindo algumas economias avançadas - não tem capacidade para realizar avaliações técnicas dos mais recentes e poderosos modelos de inteligência artificial, e é difícil ter uma participação técnica substancial para influenciar a governação global destes sistemas. Esta lacuna nas capacidades e recursos técnicos exacerbou ainda mais a desigualdade internacional na formulação de padrões de segurança de inteligência artificial e na prevenção e controlo de riscos. O grupo de peritos apelou à ajuda a um conjunto mais vasto de países a melhorar as suas capacidades de avaliação e regulamentação através de mecanismos de cooperação multilateral e de projectos de reforço de capacidades, formando assim uma voz mais representativa na governação global.
Este relatório preliminar servirá como um documento de referência central no Diálogo Global sobre Governação da Inteligência Artificial das Nações Unidas para governos e organizações internacionais relevantes discutirem futuros quadros regulamentares e caminhos de cooperação. O grupo de peritos afirmou que planeia continuar a recolher e avaliar os mais recentes resultados de investigação científica e casos de aplicação prática no próximo ano para fornecer uma base de evidências mais detalhada e sistemática para o relatório abrangente proposto, a fim de apoiar todas as partes na procura de um equilíbrio mais estável entre prevenção e controlo de riscos e inovação tecnológica.