Resumo:
Pesos pesados da indústria da inteligência artificial (IA) reuniram-se na Escócia, onde o Rei os instou a garantir que não perdem o controlo da tecnologia. O rei Carlos III convocou uma cimeira com líderes da indústria tecnológica e outras figuras influentes para se concentrar nos riscos crescentes da IA. O assunto se tornou um foco global esta semana. Os executivos presentes na reunião não se comprometeram publicamente com quaisquer mudanças, mas alguns responderam diretamente às preocupações de segurança.
"Aqueles de nós que desenvolvem IA devem testar sistemas rigorosamente", disse brevemente o CEO da Nvidia, Jensen Huang, no evento real na quinta-feira. "Se o produto não for seguro o suficiente, devemos adiar seu lançamento."
Também participaram da cúpula escocesa com Jen-Hsun Huang Sarah Friar, diretora financeira da OpenAI, e Demis Hassabis, cofundador do Google DeepMind. Tino Cuéllar, diretor de relações públicas da Anthropic PBC, também participou do fórum de IA realizado em Dumfries Estate. Outros participantes incluíram chefes de empresas de tecnologia, organizações sem fins lucrativos e instituições educacionais, incluindo a Universidade Tsinghua.
“Aqueles de nós neste mundo que valorizam a humanidade e os seus valores morais vitais procuram ansiosamente as vossas garantias – garantias de que não perderemos o controlo do nosso próprio destino”, disse Carlos III no seu discurso de abertura. O Palácio de Buckingham disse em comunicado que o evento teve como objetivo discutir como a tecnologia poderia ser usada para beneficiar a sociedade e o mundo natural.
Rei Carlos britânico III (à esquerda), Google DeepMind (centro) e CEO da Nvidia, Jensen Huang, em Dumfries Estate em Cumnock, Escócia, em 17 de setembro.
Esta cimeira chega na altura certa. O CEO da Anthropic, Dario Amodei, publicou um artigo no fim de semana passado pedindo a desaceleração do desenvolvimento de modelos de ponta, o que desencadeou uma discussão global sobre os riscos crescentes da IA.
“Tem havido muito debate acalorado ultimamente em torno dos riscos catastróficos desta tecnologia”, disse Hassabis na cúpula. O cientista britânico renunciou recentemente ao cargo de gerente dos negócios de IA do Google. Ele disse que tem duas preocupações principais sobre a IA poderosa: uma é que o sistema autônomo esteja fora de controle e a outra é que “atores maliciosos” usem a IA para fazer o mal. No entanto, ele acredita que a indústria pode resolver esses problemas. “Tenho plena fé na engenhosidade humana”, disse ele.
Carlos III levantou duas questões-chave na cúpula: "Primeiro, como podemos aproveitar ao máximo os benefícios da IA e, ao mesmo tempo, garantir a segurança? Em segundo lugar, como construímos a cooperação e o consenso internacionais para atingir esse objetivo, garantindo que nenhum país seja deixado para trás e protegendo o futuro da humanidade?
De acordo com a programação distribuída no evento, durante a cúpula, Carlos III também manteve conversações a portas fechadas com Huang Jen-Hsun, Hassabis, Cuéllar, Friar e outros cinco convidados.
Comentários