Resumo:
O CEO da OpenAI, Sam Altman, disse que ainda existem diferenças fundamentais entre as visões de mundo subjacentes da OpenAI e da rival Antrópica na questão da regulamentação da inteligência artificial. Em entrevista, ele propôs que o enorme valor trazido por esta tecnologia é digno da parte da sociedade no risco; A tecnologia de IA deve continuar a ser amplamente aberta ao público.
O CEO da OpenAI, Sam Altman, disse em uma entrevista que a IA Os benefícios trazidos são suficientes para a sociedade aceite alguns riscos
"Há uma enorme lacuna na filosofia", disse Altman. Questionado sobre suas principais diferenças com a Anthropic e seu CEO, Dario Amodai, Altman disse: “Acreditamos que, para colher os benefícios desta tecnologia e garantir que as pessoas tenham o direito de usá-la de forma autônoma, o mundo deveria aceitar que algumas coisas ruins acontecem.”
A Anthropic é há muito tempo a mais forte defensora da regulamentação da IA no setor. Não muito tempo atrás, esta postura estaria em desacordo com o impulso da OpenAI por uma regulamentação leve. No entanto, nos últimos meses, as diferenças políticas entre as duas principais empresas de IA diminuíram. Após uma série de hacks de alto perfil e comportamento errático do modelo, a OpenAI mudou para apoiar regras regulatórias mais rígidas.
Ultraman concordou com o argumento de Amodai no mês passado de desacelerar o ritmo de desenvolvimento de grandes modelos de ponta. A OpenAI também seguiu o exemplo da Anthropic e apoiou a introdução de novos projetos de lei em alguns estados dos EUA para estabelecer requisitos de segurança mais rigorosos do que os padrões anteriormente suportados pelos desenvolvedores do ChatGPT. Isto representa uma mudança subtil na sua estratégia regulamentar a nível estatal. Os lobistas políticos da OpenAI também apoiaram recentemente um projeto de lei bipartidário da Câmara que exige que as principais empresas de IA contratem avaliadores de segurança externos.
Embora as posições de ambas as partes tendam a ser próximas, Altman ainda tentou traçar uma linha clara entre o pensamento regulatório das duas empresas. Ele observou que consultores de tecnologia próximos ao presidente Trump criticaram a Antrópica pela captura regulatória.
“Não concordo com essa visão, mas entendo a opinião de algumas pessoas: essa tecnologia se tornará extremamente poderosa e arriscada, por isso deveria ser dominada por um laboratório em São Francisco para garantir que nada de ruim aconteça, e então o laboratório decidirá como distribuir os dividendos da tecnologia.” Altman disse que esta compensação é completamente inaceitável e vai contra a abordagem regulatória leve apoiada pela OpenAI.
“Não aceitarei um acordo em que garantimos que não haverá grandes ataques de hackers, nenhum abuso de tecnologia, nenhuma fraude e todos os tipos de coisas ruins que possam acontecer”, disse Altman, “porque acredito que as boas ações que os humanos podem criar usando a IA superarão em muito os danos que ela causa em ordens de magnitude.”
O CEO da OpenAI acrescentou mais tarde que não aceita riscos verdadeiramente catastróficos, incluindo o potencial da IA causar situações graves fora de controle.
Quando questionado sobre comentários, um porta-voz da Anthropic disse que as propostas regulatórias da empresa só se aplicariam a modelos de última geração. A empresa também citou uma conversa que Amodai teve com um gestor de investimentos nas redes sociais em agosto, em resposta às críticas à captura regulatória e ao impacto das políticas regulatórias nas pequenas empresas.
Amodai disse na época: "A Anthropic sempre foi muito cautelosa ao formular propostas políticas. Fizemos um grande esforço para projetar soluções que criassem condições favoráveis para concorrentes menores e, ao mesmo tempo, restringissem gigantes de IA de ponta."
A entrevista de Altman também abordou vários tópicos: o novo acordo de IA de Trump com empresas líderes de tecnologia, seu plano de reformulação da marca para criar "superinteligência"; múltiplos incidentes de hackers autônomos causados por modelos OpenAI e se a empresa deve assumir responsabilidade legal; o impacto do enorme influxo de fundos da indústria de IA na política dos EUA; a influência dos chamados altruístas eficazes dentro da OpenAI; e suas opiniões sobre figuras políticas importantes, como o presidente francês Emmanuel Macron e o governador da Califórnia, Gavin Newsom.
Comentários