De acordo com o Business Insider, o CEO da Anthropic, Dario Amodei, é conhecido por alertar frequentemente sobre os possíveis riscos de seus próprios produtos de IA, mas isso também custou caro à sua empresa.Num artigo publicado este mês, Amodei alertou que o poder da IA ​​“tornou-se inquestionável”.. Como exemplo, ele citou o modelo mais recente da Anthropic, Mythos, como apresentando “riscos muito reais” para a segurança cibernética, o setor financeiro, a infraestrutura crítica e a segurança nacional.


Amodei

Ele então apelou ao governo dos EUA para que tomasse medidas de intervenção mais fortes para lidar com estes riscos. Mas na sexta-feira, o seu aviso pareceu sair pela culatra: o governo dos EUA impôs subitamente controlos de exportação ao mais recente modelo da Antrópico.

A Anthropic disse que cortou o acesso ao Mythos 5 e ao Fable 5 depois que a administração Trump ordenou que ela bloqueasse o acesso de usuários estrangeiros aos modelos. O diretor de informação do Pentágono expressou apoio à mudança em uma postagem na plataforma X, escrevendo: “Algumas coisas são mais importantes do que ciclos de receita, exageros e avaliações pré-IPO”.

Este desenvolvimento repentino colocou toda a indústria tecnológica em pânico. Gary Marcus, um pesquisador de IA e conhecido cético, chamou a medida da administração Trump de “uma reação exagerada e contraproducente”.


Yang Likun disse que Amodei estava colhendo as consequências

No entanto, o “Padrinho da IA” Yann LeCunn colocou a culpa em Amodei. “Amodei tem espalhado um alarmismo ridículo sobre o modelo Mythos/Fable (e todo o campo da IA), e agora finalmente valeu a pena”, disse Yang Likun, “Você colherá o que planta”.

Longo aviso sobre os riscos da IA

Amodei há muito tenta se retratar como o “adulto são” na indústria de IA.Ele foi um pesquisador integral da OpenAI até deixar a empresa e fundar a Anthropic devido à preocupação de que o CEO da OpenAI, Sam Altman, estava priorizando a velocidade de lançamento de produtos em vez de garantir sua segurança.

Desde então, ele emitiu uma série de declarações, dizendo que o que ele e a OpenAI, Google, Meta, Amazon e outras empresas estão desenvolvendo e divulgando ao público pode mudar fundamentalmente o modo de vida com o qual os humanos estão familiarizados. Esse impacto pode ser tanto positivo quanto negativo.

Amodei alertou que a IA poderia eliminar metade dos empregos iniciais de colarinho branco e fazer com que o desemprego subisse para níveis nunca vistos desde a pandemia da COVID-19, possivelmente até recriando o choque de desemprego da crise financeira global de 2008 (Grande Recessão).

Embora Amodei tenha suavizado nas últimas semanas o impacto da IA ​​nos empregos enquanto a Anthropic se prepara para abrir o capital, ele e a Anthropic permaneceram sem reservas em seus alertas sobre outros riscos de segurança.

“Os riscos de segurança cibernética apresentados pelos modelos do nível Mythos não serão os últimos riscos que teremos de enfrentar”, disse ele num artigo publicado em junho. “Acho que os riscos de biossegurança poderão surgir em breve, e riscos mais sérios de autonomia da IA ​​não estarão muito distantes.”

Ele também disse que o atual nível de preocupação e conscientização dos legisladores sobre a IA não consegue mais acompanhar o rápido desenvolvimento da tecnologia de IA.

No início deste mês, a Anthropic apelou a uma moratória sobre o desenvolvimento de modelos de IA de ponta num artigo, alertando que os modelos mais recentes estavam a aproximar-se do auto-aperfeiçoamento, o que “pode aumentar o risco de os humanos perderem o controlo dos sistemas de IA”.

“Acreditamos que seria bom se o mundo pudesse optar por desacelerar ou pausar temporariamente o desenvolvimento de IA de ponta, para que a estrutura social e a pesquisa de alinhamento possam acompanhar os avanços tecnológicos”. Antrópico disse.

Ironicamente, esse “botão de pausa” foi finalmente pressionado na última sexta-feira, mas o alvo passou a ser o próprio Antrópico.