Dez vencedores do Prémio Nobel e dois antigos chefes de Estado apelaram recentemente a todos os países para estabelecerem "linhas vermelhas" para o desenvolvimento da inteligência artificial (IA) até ao final de 2026, a fim de promover a gestão e o controlo de riscos a nível internacional. A declaração foi emitida em conjunto por mais de 200 signatários, incluindo funcionários seniores da OpenAI, Google DeepMind e Anthropic.
A declaração enfatizou que questões como as pandemias de engenharia e os riscos de desemprego que podem ser causados pela IA atraíram a atenção global generalizada, e muitos especialistas alertaram que poderá ser difícil implementar um controlo humano eficaz dos sistemas de IA nos próximos anos.
Este apelo coincide com a convocação da Assembleia Geral das Nações Unidas e é de grande importância na promoção do consenso global. No entanto, devido à oposição dos Estados Unidos, espera-se que seja difícil promover medidas específicas de governação no curto prazo. Os signatários incluem Hinton, Bengio, o "economista" Stiglitz, um conhecido estudioso na área de IA, o ex-presidente colombiano Santos, a ex-presidente irlandesa Mary Robinson, o ex-primeiro-ministro italiano Letta, bem como muitos ex-ministros do governo, cientistas e diplomatas. Vale ressaltar que o ator Stephen Fry também está na lista. O cofundador da OpenAI, Wojciech Zaremba, o cientista-chefe da DeepMind, Ian Goodfellow, e outros executivos de empresas de tecnologia também participaram da assinatura, mas nenhum CEO das três empresas foi visto participando.
O comunicado apontou que alguns sistemas avançados de IA demonstraram comportamentos enganosos e prejudiciais, mas estes sistemas estão ganhando mais autonomia e são capazes de agir e tomar decisões no mundo real. Portanto, o estabelecimento de acordos internacionais claramente definidos e verificáveis sobre “linhas vermelhas” tornou-se uma medida necessária para prevenir riscos inaceitáveis. Os signatários esperam que estas linhas vermelhas sejam implementadas até ao final de 2026 e sejam acompanhadas por um mecanismo de execução.
Embora a declaração não listasse especificamente as linhas vermelhas para a governação da IA, outro documento do ano passado recomendou proibir a IA de se replicar autonomamente, de buscar poder, de lançar automaticamente ataques cibernéticos e de "comportamento de sandbag". A proposta também é apoiada por muitos cientistas chineses, como Zhang Yaqin, ex-presidente do Baidu, e Huang Tiejun, presidente da Sociedade de Inteligência Artificial de Pequim.
Além disso, as Nações Unidas anunciaram recentemente que estabelecerão um Comité Consultivo Científico Internacional para a IA (semelhante ao Painel Intergovernamental sobre as Alterações Climáticas IPCC) e um mecanismo de diálogo sobre a governação global da IA, dando um passo importante no sentido da governação global da IA. Contudo, devido à atitude negativa do governo dos EUA, o avanço de ações relevantes ainda enfrenta resistências. De acordo com o "Plano de Acção da IA dos EUA" divulgado pela administração Trump em Julho deste ano, embora os Estados Unidos expressem o seu apoio à cooperação com países com ideias semelhantes para desenvolver a IA, opõem-se claramente à "regulação excessiva", às regras comportamentais vagas baseadas em agendas culturais e aos planos de governação nos quais as empresas chinesas participam. No início deste mês, o senador norte-americano Ted Cruz disse que um dos “pilares” para o Congresso aprovar a regulamentação da IA é “combater a regulamentação estrangeira excessiva”.
No entanto, a declaração mostra que a preocupação global sobre o potencial e os riscos da IA continua a crescer. Korosi, ex-presidente da Assembleia Geral das Nações Unidas, destacou nos seus comentários: “A humanidade nunca encontrou uma inteligência superior à sua na história e, nos próximos anos, a humanidade enfrentará tal desafio”.