Resumo:
Em 20 de novembro, de acordo com a mídia norte-americana "The San Francisco Standard" (The San Francisco Standard), o ex-pesquisador da Anthropic Jacob Coxon apareceu do lado de fora da sede de São Francisco no dia do IPO da empresa e apelou publicamente aos manifestantes no local para proibir o autoaperfeiçoamento recursivo (RSI) em sistemas de inteligência artificial.

Coxson disse no local: "Eles deveriam proibir o RSI e desligá-lo."
Ele também disse aos manifestantes: "Para cada pessoa que vem aqui, há centenas de milhares de pessoas virão aqui se souberem o que está acontecendo. E há milhões dessas pessoas."
RSI significa autoaperfeiçoamento recursivo, o que significa que o sistema de inteligência artificial melhora ainda mais suas próprias capacidades, melhorando seus próprios algoritmos, modelos ou processos de pesquisa e desenvolvimento, e usa as capacidades aprimoradas para continuar a próxima rodada de otimização. Considera-se que este mecanismo poderá acelerar o desenvolvimento de capacidades de IA e também levanta preocupações sobre o risco de sistemas de IA fora de controlo.
Coxon já havia renunciado à Anthropic. Desta vez, ele apelou publicamente à proibição do RSI, refletindo a controvérsia em torno das capacidades de melhoria independente e dos limites de segurança dos sistemas avançados de IA.
Comentários