Resumo:
Especialistas nas áreas de segurança nacional, política científica e tecnológica e inteligência artificial dos Estados Unidos e da China propuseram recentemente em conjunto uma proposta que chama a atenção, defendendo o aproveitamento da experiência de gestão da segurança nuclear da Guerra Fria para estabelecer um mecanismo de segurança semelhante ao do campo das armas nucleares para sistemas avançados de inteligência artificial que possam surgir no futuro, a fim de reduzir os riscos causados pela perda tecnológica de controlo, erros de julgamento e escalada da concorrência internacional.
Essa sugestão aparece em resultado de pesquisa formada após discussões entre especialistas dos dois países. O relatório acredita que à medida que as capacidades de inteligência artificial continuam a melhorar rapidamente, os países começaram a enfrentar alguns problemas semelhantes aos do início da era nuclear, ou seja, uma tecnologia com enorme impacto potencial está a desenvolver-se rapidamente, mas as regras internacionais correspondentes, canais de comunicação e sistemas de controlo de risco ainda não foram totalmente estabelecidos.
Os especialistas que participaram no estudo salientaram que, no futuro, sistemas de inteligência artificial mais poderosos poderão desempenhar um papel cada vez mais importante em áreas como segurança de redes, comando militar, análise de inteligência, investigação biotecnológica e gestão de infra-estruturas críticas. Quando estes sistemas se comportam de forma inesperada, são explorados de forma maliciosa ou são implementados incorretamente, o seu impacto pode ultrapassar as fronteiras nacionais e ter impacto no ambiente de segurança global.
Para este fim, o relatório recomenda que a China e os Estados Unidos se refiram à sua experiência histórica no tratamento dos riscos nucleares e estabeleçam gradualmente um mecanismo de segurança a vários níveis. Estas incluem o reforço do intercâmbio de informações, o estabelecimento de canais de comunicação de crises, a colaboração em avaliações de riscos tecnológicos e a exploração de regimes de testes de transparência e segurança para sistemas de inteligência artificial de última geração.
Os especialistas acreditam que, embora a inteligência artificial e as armas nucleares não sejam a mesma coisa, ambas têm um elevado significado estratégico e envolvem a concorrência internacional e questões de segurança global. Por conseguinte, é muitas vezes mais eficaz estabelecer antecipadamente um quadro de proteção quando a tecnologia está numa fase de rápido desenvolvimento do que esperar até que os riscos estejam totalmente expostos antes de tomar medidas.
O relatório também enfatiza particularmente que o maior perigo no futuro pode não advir da inteligência artificial em si, mas sim de erros de julgamento causados pela desconfiança entre países. Por exemplo, quando uma parte não consegue determinar com precisão quais as capacidades que a outra parte está a desenvolver e em que nível, é mais provável que reaja de forma exagerada, entenda mal ou até mesmo intensifique a concorrência.
Alguns especialistas propuseram, portanto, que canais de comunicação semelhantes ao "mecanismo de linha direta" durante a Guerra Fria deveriam ser explorados para permitir que os países mantivessem contato imediato quando ocorressem grandes eventos envolvendo inteligência artificial e evitassem crises de segurança desnecessárias causadas pela assimetria de informação.
Ao mesmo tempo, os investigadores acreditam que deve ser estabelecido um mecanismo de revisão de segurança mais rigoroso para a formação e implementação dos modelos de inteligência artificial mais avançados. No futuro, alguns sistemas com capacidades extremamente elevadas poderão necessitar de ser submetidos a testes independentes e supervisão contínua, e estabelecer um sistema de comunicação de comportamentos anormais para detectar riscos potenciais o mais cedo possível.
O relatório salienta que o atual sistema global de governação da inteligência artificial ainda está na sua fase inicial. Embora os países tenham introduzido diferentes políticas regulamentares e normas industriais, ainda existem lacunas óbvias ao nível da colaboração transfronteiriça. A velocidade de desenvolvimento da tecnologia de inteligência artificial está a acelerar, o que significa que a janela para a cooperação internacional poderá não existir durante muito tempo.
Os especialistas que participaram na discussão geralmente acreditavam que a China e os Estados Unidos, como os dois intervenientes mais importantes no campo global da inteligência artificial, têm responsabilidades especiais na governação do risco. Se ambas as partes conseguirem chegar a um maior consenso sobre normas de segurança, avaliação de riscos e comunicação de crises, isso ajudará a reduzir a possibilidade de grandes incidentes técnicos de segurança no futuro.
No entanto, os especialistas também admitem que promover essa cooperação não é fácil no atual ambiente internacional. A competição tecnológica, as considerações de segurança nacional e os interesses industriais influenciarão o processo de discussão relevante. Por isso, preferem começar em áreas relativamente pragmáticas, como a gestão de riscos e a protecção da segurança, em vez de procurarem acordos regulamentares abrangentes desde o início.
Os analistas salientaram que este relatório reflete a mudança na discussão sobre a governação da inteligência artificial. No passado, o foco de todas as partes centrava-se mais nos impactos na privacidade, nos direitos de autor e no emprego, mas agora cada vez mais especialistas começam a voltar a sua atenção para questões de segurança a longo prazo e de estabilidade estratégica global.
À medida que as capacidades de inteligência artificial continuam a melhorar, como estabelecer um mecanismo de segurança eficaz, mantendo ao mesmo tempo a vitalidade da inovação, está a tornar-se um novo tópico enfrentado pela comunidade global de ciência e tecnologia e pelos círculos políticos. Tirar partido da experiência de gestão de riscos acumulada na era nuclear pode tornar-se uma importante orientação de referência para o futuro quadro de governação da inteligência artificial.
Comentários