Resumo:
À medida que a concorrência na inteligência artificial continua a aquecer, a China e os Estados Unidos tentam estabelecer um novo mecanismo de coordenação de segurança. De acordo com o último acordo alcançado entre as duas partes, a China e os Estados Unidos concordaram em estabelecer um canal de comunicação bilateral visando especificamente os riscos de "Super Inteligência" (SI) para fortalecer o futuro intercâmbio de informações e gestão de riscos no campo da inteligência artificial de ponta.
Este acordo é considerado um dos resultados importantes do recente diálogo sino-americano sobre inteligência artificial. De acordo com informações divulgadas pelos Estados Unidos, os dois lados continuarão a promover a construção de mecanismos relevantes nos próximos meses e planeiam realizar uma reunião de acompanhamento do recém-criado "Diálogo de Super Inteligência China-EUA" antes de Novembro.
O contexto para o estabelecimento deste mecanismo é que as capacidades de inteligência artificial estão a evoluir a uma velocidade sem precedentes. À medida que continuam a surgir grandes modelos cada vez mais poderosos e agentes autónomos de IA, os governos estão cada vez mais preocupados com a segurança cibernética, a protecção de infra-estruturas críticas e os riscos que os futuros sistemas superinteligentes podem representar.
Na verdade, a China e os Estados Unidos têm estado em contacto sobre questões de segurança de inteligência artificial há vários meses. Já neste verão, as duas partes começaram a preparar um mecanismo especial de diálogo sobre IA e a discutir tópicos como riscos de modelos de ponta, prevenção de ataques cibernéticos e futura cooperação regulatória.
De acordo com informações divulgadas anteriormente, os Estados Unidos sempre esperaram estabelecer um sistema de comunicação e alerta precoce para ataques cibernéticos impulsionados pela IA e promover grandes laboratórios de IA para assumirem mais responsabilidade pelas questões de segurança. Ao mesmo tempo, a China também considera a cooperação em inteligência artificial uma questão importante nas relações bilaterais e espera manter canais de diálogo no domínio técnico.
Os membros da indústria salientaram que, ao contrário das negociações anteriores em torno do comércio, das tarifas ou dos campos tecnológicos tradicionais, o foco desta discussão voltou-se para a possível emergência de sistemas superinteligentes no futuro. A chamada superinteligência geralmente se refere a um sistema de inteligência artificial cujas capacidades excedem o nível de especialistas humanos em vários campos. É considerada por muitas instituições de pesquisa como uma das direções de desenvolvimento tecnológico mais notáveis nas próximas dez ou décadas.
À medida que as capacidades dos modelos de ponta continuam a melhorar, os países estão cada vez mais preocupados com a possibilidade de sistemas relevantes serem utilizados para lançar ataques cibernéticos complexos, manipular infraestruturas críticas, automatizar atividades de inteligência ou produzir outros impactos de segurança imprevisíveis. Portanto, o fortalecimento dos mecanismos de comunicação é considerado uma medida importante para reduzir erros de julgamento e melhorar as capacidades de gestão de riscos.
Os Estados Unidos declararam que o novo mecanismo fornecerá um canal dedicado para troca de informações entre os dois lados e ajudará os dois países a manter a comunicação diante de incidentes potencialmente graves de IA. Os analistas acreditam que este acordo é, até certo ponto, semelhante ao mecanismo de comunicação de crises estabelecido no domínio da segurança nuclear no passado, excepto que o foco mudou dos riscos militares tradicionais para os novos desafios trazidos pela inteligência artificial.
Ao mesmo tempo, este desenvolvimento também é visto como um sinal de relaxamento limitado na relação de inteligência artificial entre a China e os Estados Unidos. Nos últimos anos, a concorrência entre os dois lados tem aumentado em questões como controlos de exportação de chips, capacidades informáticas avançadas e desenvolvimento de tecnologia de inteligência artificial. O estabelecimento de um mecanismo de diálogo formal desta vez mostra que as duas partes ainda acreditam que a comunicação em certas áreas é realisticamente necessária.
No entanto, os mecanismos relevantes não significam que os dois países irão abrandar nas questões de concorrência tecnológica. A indústria geralmente acredita que a China e os Estados Unidos continuarão a competir ferozmente nas áreas de pesquisa e desenvolvimento de inteligência artificial, chips avançados, centros de dados e infraestrutura computacional no futuro. Mas, ao mesmo tempo, ambas as partes começaram a perceber que, à medida que a inteligência artificial se aproxima gradualmente do limiar das capacidades críticas, é do interesse comum estabelecer um canal de comunicação de risco mínimo.
Para a indústria global de inteligência artificial, este acordo tem um certo significado simbólico. À medida que mais e mais países começam a discutir como gerir sistemas de IA mais poderosos no futuro, a China e os Estados Unidos, as duas principais potências da IA, estabeleceram pela primeira vez um mecanismo de comunicação formal em torno da "superinteligência", marcando que a governação da segurança da inteligência artificial está a começar a passar das discussões teóricas para a fase de coordenação internacional.
Embora ainda não se saiba como funcionará o futuro mecanismo, à medida que a competição global em IA continua a acelerar, a China e os Estados Unidos enviaram um sinal claro: mesmo que a competição continue, é necessário manter canais de diálogo em torno dos riscos da superinteligência.
Comentários