Resumo:
Em uma entrevista na noite de terça-feira, horário local, o CEO da Nvidia, Jensen Huang, criticou a proposta de isenção antitruste de segurança de IA da Anthropic, que foi projetada para desacelerar colaborativamente o desenvolvimento de modelos de IA de ponta, e refutou os argumentos de que a inteligência artificial pode exterminar a humanidade dentro de uma década.
Huang Renxun fez as observações acima em uma entrevista com Jim Cramer, um conhecido âncora financeiro americano. Anteriormente, o CEO da Anthropic, Dario Amodei, publicou um artigo no último sábado, desencadeando uma acalorada discussão sobre a segurança da inteligência artificial. Amodei propôs que os principais laboratórios de IA deveriam trabalhar juntos para “controlar o ritmo do desenvolvimento de tecnologia de ponta”, o que significa desacelerar intencionalmente o desenvolvimento de modelos avançados para permitir às empresas mais tempo para testes e proteção de segurança. Amodei disse que o trabalho pode exigir coordenação governamental ou isenções de regulamentações antitruste relevantes.
Huang Renxun concorda que as empresas de IA devem prestar atenção às questões de segurança, mas acredita que as empresas devem resolver esses problemas por conta própria.
Huang Renxun disse: "Algumas pessoas pensam que precisamos introduzir novas leis, novas regulamentações antitruste ou novas regulamentações regulatórias para permitir que essas empresas façam engenharia básica e padronizem a pesquisa e o desenvolvimento antes de lançar produtos. Isso é completamente desnecessário. Já temos disposições legais e regulatórias suficientes para garantir a confiabilidade e a funcionalidade dos produtos."
No artigo, Amodei propôs um plano de três etapas para desacelerar o ritmo de desenvolvimento do modelo: O primeiro passo é enviar avaliadores de segurança terceirizados para cada laboratório de IA. O segundo e terceiro passos são, respectivamente, a colaboração democrática e global em torno de padrões de segurança e “estabelecer limites à velocidade do desenvolvimento irrestrito da IA”. "Alguns métodos colaborativos que podem regular eficazmente o ritmo do desenvolvimento tecnológico têm obstáculos legais e requerem apoio governamental."
Surgem questões legais porque os principais laboratórios de IA são concorrentes e os modelos que lançam são produtos concorrentes. A Lei Antitruste Sherman dos Estados Unidos proíbe, em princípio, que os concorrentes cheguem a acordos que restrinjam injustificadamente a concorrência, e certos comportamentos colaborativos (incluindo acordos para limitar a produção de produtos) podem ser ilegais. Se as empresas concorrentes de desenvolvimento de IA chegarem a acordo sobre o desenvolvimento ou a velocidade de lançamento de novos modelos, surgirão potenciais riscos jurídicos.
Huang Renxun disse que os desenvolvedores de modelos têm a capacidade de garantir a segurança dos produtos antes de serem lançados.
"A segurança é uma questão de engenharia e os testes também são uma questão de engenharia." Huang Renxun disse: "Devemos construir produtos e testá-los completamente. Se o produto ainda não atingiu os padrões de lançamento, adie o lançamento e continue os testes e a otimização até que o produto amadureça." A NVIDIA é um importante fornecedor de Anthropic e OpenAI, e a própria NVIDIA também desenvolveu a série Nemotron de modelos de peso de código aberto.
A mania da IA tornou a Nvidia a maior fabricante mundial de chips e a empresa com maior valor de mercado. Propostas relevantes para desacelerar o desenvolvimento de modelos de alto desempenho podem representar riscos para o crescimento futuro da Nvidia.
Huang Renxun disse a Cramer: "A segurança da IA é um problema real. A criação de produtos que podem ser usados com segurança em todo o mundo não pode ser subestimada. As empresas devem inovar o mais rápido possível, mas não devem lançar produtos com riscos de segurança apenas por uma questão de inovação."
Huang também rejeitou os avisos de que modelos de inteligência artificial cada vez mais poderosos representarão uma ameaça existencial para a humanidade.
Ele disse: "A humanidade não será extinta em 2030. Há tantas pessoas no mundo que desenvolverão a inteligência artificial corretamente. Estabeleceremos várias medidas de proteção e segurança e inventaremos várias tecnologias para segurança e proteção."
Artigos relacionados:
Huang Renxun pediu o relaxamento da supervisão externa da IA, dizendo que a indústria tem a capacidade de garantir a segurança de forma independente
Comentários