Resumo:
De acordo com a Bloomberg, o CEO da Meta, Mark Zuckerberg, disse na terça-feira que os laboratórios de IA deveriam contar com avaliadores e consultores independentes para garantir a segurança dos modelos. Zuckerberg juntou-se na terça-feira a um número crescente de executivos de tecnologia que participam de um debate global sobre a melhor forma de evitar que os sistemas de IA prejudiquem a humanidade.
Zuckerberg
"Apresentar avaliadores e consultores independentes é uma prática recomendada do setor." Zuckerberg escreveu em um post na plataforma X. Ele observou que, em geral, ter um ecossistema de avaliadores maior e mais diversificado ajuda.
Zuckerberg disse que atualmente há muito debate sobre se o desenvolvimento das capacidades de IA deveria ser desacelerado e esperar que a tecnologia de alinhamento o alcançasse. O que ele quer dizer é que a confiança e o alinhamento estão rapidamente se tornando as capacidades mais importantes que diferenciam agentes e modelos. Qualquer laboratório que não leve o alinhamento a sério ficará para trás. Alinhamento refere-se a alinhar a forma como a IA faz as coisas com os interesses humanos.
Postagem de Zuckerberg
Atualmente, alguns executivos de empresas expressaram apoio à desaceleração do desenvolvimento da IA e defendem a cooperação para chegar a um consenso. Zuckerberg escreveu que a Meta decidiu desacelerar o desenvolvimento da ferramenta Muse AI por conta própria, sem primeiro pedir a seus pares que revisassem seu progresso.
"A Meta atrasou o lançamento do Muse por vários meses para se concentrar na segurança e proteção", escreveu ele. "Não pedimos a todos que fizessem isso primeiro e depois nós mesmos acompanhássemos. Apenas fizemos isso como parte de nossa rotina diária porque era obviamente a coisa certa para nossos usuários e para nós."
Zuckerberg acredita que dedicar a maior parte do poder da computação para servir as pessoas, em vez de correr para promover o autoaperfeiçoamento recursivo da IA, é uma das melhores maneiras de garantir o desenvolvimento seguro desta tecnologia. A Meta assumiu esse compromisso e outros laboratórios podem fazer o mesmo.
No fim de semana passado, um artigo de 3.800 palavras do CEO da Anthropic, Dario Amodei, aqueceu ainda mais o acalorado debate em torno dos riscos econômicos e de segurança da IA. Nele, ele apelou à desaceleração do desenvolvimento de sistemas de última geração para que os investigadores possam compreender melhor as ameaças potenciais. A ligação de Amodei recebeu raro apoio do CEO da OpenAI, Sam Altman, e do CEO da SpaceX, Elon Musk.
Comentários