Resumo:
Embora os Estados Unidos e a China tenham concorrência estratégica em muitos domínios, de acordo com relatos dos meios de comunicação social tecnológicos, os Estados Unidos estão a tentar estabelecer um mecanismo de notificação de segurança com a China para emitir avisos antecipados um ao outro no caso de incidentes perigosos de inteligência artificial que possam representar graves ameaças à segurança nacional.
Esta ideia foi proposta conjuntamente pelo Atlantic Council e pela Security Exploration International. O objectivo principal deste mecanismo é garantir que os dois países possam contactar-se em tempo útil antes que incidentes graves de segurança de inteligência artificial evoluam para crises geopolíticas ou conflitos militares, estabelecendo canais especiais de alerta precoce. O relatório salientou que, devido à rápida evolução da tecnologia de inteligência artificial, é muito provável que os sistemas automatizados causem consequências inesperadas e graves sem controlo humano direto, pelo que o estabelecimento de tais pontes de comunicação é crucial.
De acordo com a proposta, o mecanismo de notificação concentra-se em quatro categorias principais de cenários de alto risco:
Primeiro, o sistema autônomo de IA perde o controle e causa sérios danos no mundo real;
Em segundo lugar, acidentes de segurança de IA envolvendo armas de destruição em massa, como armas nucleares, armas químicas ou armas biológicas;
Terceiro, o vazamento acidental de modelos de IA de alto risco ou tecnologias básicas relacionadas;
Quarto, os ataques à rede de IA em grande escala têm como alvo infra-estruturas críticas e causam golpes devastadores.
A análise de especialistas apontou que a ideia de estabelecer este mecanismo é muito semelhante à chamada telefônica direta "linha vermelha" estabelecida pelos Estados Unidos e pela União Soviética durante a Guerra Fria para evitar a eclosão de uma guerra nuclear. Embora as empresas tecnológicas e as instituições de investigação na China e nos Estados Unidos já tenham mantido um diálogo preliminar sobre as normas de segurança da IA e a gestão de riscos, se esta cooperação puder ser formalmente elevada a um mecanismo de segurança a nível governamental, reduzirá sem dúvida significativamente o risco de grandes crises internacionais causadas por erros de julgamento técnicos e fornecerá um apoio importante à governação global da IA.
Comentários