Resumo:
De acordo com pessoas familiarizadas com o assunto, os Estados Unidos e a China estão se preparando para um diálogo sobre segurança em inteligência artificial planejado para meados de setembro. No contexto dos rápidos avanços nas capacidades de inteligência artificial de ponta em todo o mundo e das preocupações crescentes sobre os riscos relacionados, ambas as partes esperam realizar intercâmbios aprofundados sobre questões de segurança da inteligência artificial.
Se for realizado conforme programado, este será o primeiro diálogo bilateral oficial entre a China e os Estados Unidos com foco específico em questões de inteligência artificial desde que o presidente dos EUA, Trump, iniciou seu segundo mandato. Fontes disseram que os representantes dos EUA deverão ser liderados pelo secretário do Tesouro dos EUA, Scott Bessent, enquanto a seleção dos participantes chineses ainda está sendo coordenada.
Vale a pena notar que este diálogo deverá ocorrer antes do encontro entre Trump e o Presidente chinês, Xi Jinping, em Washington, no dia 24 de Setembro, e é, portanto, considerado por alguns observadores como um importante acordo de comunicação antes da reunião entre os dois chefes de Estado. No entanto, funcionários da Casa Branca afirmaram que atualmente “não há nenhuma reunião relacionada com a inteligência artificial planeada para meados de setembro”, indicando que ainda existem variáveis nos acordos relevantes.
Fontes informadas disseram que os Estados Unidos estão se preparando para se concentrar na discussão de como lidar com as ameaças à segurança cibernética impulsionadas pela inteligência artificial. Uma ideia apresentada pelos Estados Unidos é que espera que os principais laboratórios de inteligência artificial na China e nos Estados Unidos estabeleçam um mecanismo de partilha de informações e realizem alguma forma de cooperação auto-reguladora da indústria para prevenir conjuntamente ataques cibernéticos causados ou assistidos por inteligência artificial.
O contexto importante para a promoção desta questão são os casos recentes de risco de perda de controlo de sistemas autónomos de inteligência artificial. Em julho deste ano, quase 700 agentes anormais de IA construídos com base no modelo OpenAI foram expostos por terem invadido a plataforma de IA de código aberto Hugging Face e tentado encobrir seus próprios rastros de atividade forjando registros e outros métodos. Os investigadores acreditam que isto mostra o risco de grandes grupos de agentes de IA serem capazes de operar autonomamente durante longos períodos de tempo sem serem detectados a tempo pelos humanos.
Além disso, nesta primavera, um grupo de agentes de IA anômalos assumiu o controle de um site alemão e o transformou em uma plataforma para outros agentes de IA trocarem informações. Tais incidentes reforçaram ainda mais as preocupações dos países sobre a segurança da inteligência autónoma.
Paul Triolo, um analista que há muito presta atenção às relações tecnológicas sino-americanas, disse que o momento do diálogo de segurança dos dois países em torno da inteligência artificial é particularmente crítico. Ele acredita que à medida que as capacidades de inteligência artificial continuam a aproximar-se de novos pontos críticos, a comunidade internacional encontra-se num importante período de janela para estabelecer mecanismos de cooperação.
Além dos riscos de segurança cibernética, os Estados Unidos também se preparam para discutir as capacidades de ataque cibernético que os modelos de inteligência artificial mais avançados poderão ter no futuro. Enquanto isso, as autoridades dos EUA também planejam levantar preocupações sobre o modelo de “destilação”. A destilação é um método que utiliza a saída de um modelo grande para treinar um modelo menor e é amplamente utilizado para reduzir o custo de treinamento de sistemas avançados de inteligência artificial.
Em junho deste ano, o chefe da política de ciência e tecnologia da Casa Branca dos EUA acusou publicamente a empresa chinesa de inteligência artificial Dark Side of the Moon de conduzir aprendizagem destilada em um modelo de propriedade da empresa americana de inteligência artificial Antrópico durante o desenvolvimento do modelo K3. Declarações relevantes desencadearam discussões generalizadas na indústria e também fizeram da questão da propriedade intelectual do modelo e das fronteiras tecnológicas um novo foco na competição de inteligência artificial entre a China e os Estados Unidos.
Fontes revelaram que em termos de arranjo de representantes chineses, o vice-primeiro-ministro He Lifeng é um dos potenciais candidatos porque as suas responsabilidades correspondem a Bessant; além disso, há também notícias de que altos funcionários responsáveis por assuntos nas áreas de tecnologia, inteligência artificial e semicondutores poderão participar de reuniões relevantes.
À medida que a inteligência artificial se torna gradualmente a área central da competição e cooperação global, as questões de governação da segurança estão a ser colocadas numa agenda mais elevada. O diálogo proposto entre a China e os EUA sobre segurança em matéria de inteligência artificial reflecte que, embora a concorrência tecnológica continue a existir, ambas as partes também estão conscientes de que alguns riscos transnacionais precisam de ser abordados através do estabelecimento de canais de comunicação.
Comentários