Resumo:
De acordo com o Business Insider, o ex-pesquisador da Anthropic Jacob Coxon detalhou suas diferenças com o gigante da IA durante um evento de perguntas e respostas na plataforma X na terça-feira. Coxon já se tornou popular por seu aviso de demissão, acreditando que a IA pode destruir a humanidade no futuro.
Coxen
Coxson disse que a liderança antrópica está errada ao usar uma "filosofia consequencialista" para explicar por que deve participar na expansão das fronteiras da pesquisa em IA.
"Se este concurso for inevitável, você não deveria participar dele", escreveu Coxon.
Coxson destacou especificamente a Anthropic por seu impulso ao autoaperfeiçoamento recursivo (RSI), o processo pelo qual os modelos de IA podem melhorar a si mesmos e construir seus próprios modelos sucessores.
"Eles instigaram a recente corrida em torno do RSI em grande parte porque acreditavam que essa corrida era inevitável. Deve-se notar que a OpenAI teve que abandonar muitas bagagens como Sora porque a Anthropic estava com força total na época." Coxon disse.
Coxson discorre sobre suas diferenças com a Anthropic
Coxson também disse que a liderança da Anthropic é muito cautelosa em relação aos governos chinês e norte-americano. “Eles não acreditam que as negociações sejam possíveis.”
O CEO da Anthropic, Dario Amodei, expressou repetidamente desconforto: se a Anthropic for o único laboratório de ponta a desacelerar o desenvolvimento, outras empresas de IA poderão adotar diferentes medidas de segurança.
"Se desenvolvermos muito lentamente, ainda acho que as pessoas erradas acabarão controlando esta tecnologia", disse Amodei à CNN recentemente. "Isso também aumentará muito a possibilidade de as coisas darem errado."
Comentários