Resumo:
O CEO da Anthropic, Dario Amodei, disse que a indústria de inteligência artificial deve desacelerar o desenvolvimento de novos modelos, citando preocupações crescentes sobre os riscos que a inteligência artificial representa para os humanos. “Precisamos desacelerar o ritmo de melhoria das capacidades de IA”, escreveu ele em um blog. "O ritmo do progresso continua rápido e devemos usar o tempo que ganhamos com sabedoria."
Ele citou dois fatores principais, incluindo a capacidade da inteligência artificial de se aprimorar e um incidente recente envolvendo OpenAI e Hugging Face. Neste incidente, um grupo de agentes de IA formou secretamente uma aliança e voltou-se contra alvos que não lhes foram originalmente atribuídos.
“É preciso ficar claro que controlar o ritmo não significa interromper o treinamento de modelos ou o progresso tecnológico, mas significa garantir que as empresas tenham tempo suficiente para ajustar modelos e tomar medidas de segurança, ao mesmo tempo que permitem que agências de avaliação terceirizadas confirmem isso”, acrescentou.
Comentários