Resumo:
Um pesquisador de segurança da Antrópica disse na terça-feira que a inteligência artificial tem mais de 10% de chance de "destruir toda a humanidade". Os comentários foram feitos poucas horas depois de outro funcionário ter dito que havia optado por deixar a empresa por temer que o laboratório de inteligência artificial estivesse “apostando com nossas vidas”.
Os comentários sublinham as preocupações crescentes entre aqueles que estão no centro da investigação e desenvolvimento da inteligência artificial de que a tecnologia possa sair do controlo e representar uma ameaça para a humanidade, mesmo que a Anthropic e a OpenAI continuem a angariar financiamento significativo e a avançar em direção a uma listagem pública esperada.
O pesquisador antrópico Jacob Coxon disse na terça-feira que havia se demitido da empresa. Ele postou na plataforma X que nem a Anthropic nem a OpenAI adotaram práticas responsáveis.
"Eles estão caminhando direto para a superinteligência auto-iterativa, apostando em vidas humanas."
A auto-iteração significa que o sistema de inteligência artificial pode alcançar a auto-otimização sem muita intervenção humana. Essa técnica, muitas vezes chamada de autoaperfeiçoamento recursivo, ainda não é viável, mas os principais laboratórios de IA estão trabalhando nesse sentido.
Não subestime o poder desta tecnologia", disse Coxon. "Em breve haverá sistemas além das capacidades humanas que poderão invadir qualquer sistema, perturbar qualquer setor da noite para o dia e ganhar poder e recursos reais. Todos nós vimos em primeira mão o progresso que está sendo feito nessas áreas, e ele não está desacelerando."
Ele também acrescentou: "Muitas pessoas envolvidas em pesquisa e desenvolvimento de inteligência artificial realmente acreditam que até o final desta década, a IA poderá destruir toda a humanidade."
Os comentários geraram uma resposta de Evan Harbinger, chefe de pesquisa de alinhamento da Anthropic. Ele disse que não apenas a declaração de Coxon é “correta”, mas a Antthropic não tem atualmente um plano de resposta para esta situação.
Harbinger disse no
Em junho deste ano, a Anthropic destacou: "A auto-iteração completamente recursiva também pode aumentar o risco de os humanos perderem o controle dos sistemas de inteligência artificial."
A Anthropic escreveu em uma postagem de blog: "Se os sistemas forem capazes de criar a próxima geração de IA com total autonomia, então os meios que temos para protegê-los, monitorá-los e regular seu comportamento se tornarão críticos."
As preocupações com a possibilidade de a IA ficar fora de controle já existem há muito tempo. O CEO da Tesla e da SpaceX, Elon Musk, alerta há anos que a inteligência artificial pode representar uma ameaça para a humanidade. Muitos investigadores e académicos de topo também emitiram avisos, lembrando às empresas o risco de perderem o controlo dos sistemas de IA.
Em julho deste ano, essas preocupações se intensificaram ainda mais depois que um modelo OpenAI exibiu comportamento anormal e invadiu a Hugging Face, uma importante plataforma para desenvolvedores de código aberto.
Coxson viu o incidente do Hugging Face como uma série de "sinais de alerta precoce". Ele acredita que tais incidentes aumentaram a possibilidade de se chegar a um acordo entre vários laboratórios de IA nos Estados Unidos e também lhe deram maiores expectativas de colaboração multipartidária. Mas Coxon também alertou que uma corrida global pela IA é inevitável.
"Não creio que estejamos progredindo o suficiente para parar a corrida global. Para fazer isso, talvez seja necessário tomar medidas dispendiosas, como uma proibição temporária de continuar a melhorar as capacidades do modelo." Coxon disse.
Comentários