De acordo com o Wall Street Journal, a startup de IA Anthropic apelou aos principais laboratórios de IA do mundo para considerarem abrandar o ritmo da investigação e desenvolvimento, alegando que os actuais sistemas de IA estão a avançar demasiado rápido e poderão em breve ser capazes de melhorar sem intervenção humana, colocando assim grandes riscos sociais. A Antthropic disse em um blog na quinta-feira que se pudesse desacelerar o ritmo do desenvolvimento global da IA, isso “provavelmente seria uma coisa boa”. O artigo também divulgou dados internos da Anthropic, mostrando a rapidez com que as capacidades de seus modelos de IA mais avançados melhoraram.
Este artigo foi escrito pelo chefe de pesquisa e política interna da Anthropic. Ele afirma,O desenvolvimento de modelos parece estar a avançar na direcção do “auto-aperfeiçoamento recursivo”, onde os sistemas de IA podem melhorar-se sem intervenção humana.Alguns profissionais da indústria de IA veem esse limite como um sinal de perigo potencial e de enorme agitação social.
“Acreditamos que seria bom se o mundo pudesse optar por desacelerar ou pausar temporariamente o desenvolvimento de IA de ponta para permitir que a estrutura social e a pesquisa de alinhamento acompanhassem os avanços tecnológicos”, escrevem os autores Marina Favaro e Jack Clark. O artigo propõe um acordo global sobre como o desenvolvimento da IA pode ser retardado, bem como um mecanismo de verificação para verificar se os concorrentes estão aderindo ao acordo.
O artigo alerta que o autoaperfeiçoamento recursivo ainda não ocorreu e não é inevitável, “mas pode chegar mais cedo do que a maioria das organizações está preparada”.
Blog da Antrópico
A Anthropic concluiu recentemente uma rodada de financiamento avaliando a empresa em quase US$ 1 trilhão e apresentou documentos confidenciais para iniciar o processo de abertura de capital de suas ações. A empresa emergiu recentemente como pioneira na competição acirrada com a OpenAI pela supremacia da IA. Espera-se também que a OpenAI envie documentos relacionados ao IPO em breve.
A empresa tem enfatizado a segurança da IA desde a sua criação, mas tem sido criticada há muito tempo pelo mundo exterior, acreditando que a sua proposta política é na verdade uma tentativa de abrandar o progresso da investigação e desenvolvimento da IA dos concorrentes. David Sacks, um capitalista de risco e conselheiro informal do Presidente Trump, acusou a liderança da Anthropic de prosseguir uma “agenda de captura regulamentar” que utiliza a regulamentação para suprimir os concorrentes.
Num podcast recente, Sacks disse que esta “agenda de captura regulatória” em Washington poderia levar à proibição do chamado modelo de código aberto. Esses modelos são normalmente mais baratos e mais fáceis de serem implantados e desenvolvidos por empresas e instituições por conta própria.
Outros acreditam que os avisos da Anthropic sobre o potencial perigoso das suas próprias ferramentas também podem ser vistos como uma jogada de marketing.Estes céticos apontam para a decisão da Anthropic de limitar o lançamento do seu poderoso modelo de segurança cibernética “Mythos”, que pode encontrar vulnerabilidades e problemas no código, como uma estratégia promocional inteligente para promover as capacidades do seu produto.
Nesse sentido, a liderança da Anthropic afirmou que a empresa leva a sério as questões de segurança de IA e está empenhada em promover mais discussão social sobre os riscos relacionados.