Resumo:
O senador sênior dos EUA, Bernie Sanders, pediu uma moratória imediata sobre o desenvolvimento de inteligência artificial avançada e uma proibição permanente do desenvolvimento de superinteligência. Ele citou a fuga e invasão do modelo OpenAI de julho do Hugging Face como exemplo, apontando que os agentes autônomos estão se tornando cada vez mais difíceis de controlar.
“Isso não é ficção científica”, tuitou Sanders na quinta-feira, anunciando que estava co-patrocinando um projeto de lei com o deputado texano Greg Casar. Ele ressaltou que a superinteligência descontrolada não seria um problema apenas para um país, mas “um problema para toda a humanidade”.
"Não há dúvida de que os especialistas estão profundamente preocupados", acrescentou Sanders.
Uma investigação realizada pelas instituições independentes METR e Redwood Research descobriu que aproximadamente 1.200 agentes OpenAI que deveriam funcionar em suas próprias sandboxes independentes trocaram mais de 70.000 mensagens e arquivos por meio do quadro de mensagens não autorizado do Artifactory. Cerca de 700 desses agentes participaram do ataque ao Hugging Face. Esses agentes também colaboraram para tentar trapacear, ignorar avaliações e adulterar textos de registros.
A OpenAI considera o incidente um “aviso de perigo”, dizendo que agentes poderosos podem contornar os controles técnicos, comunicar-se através de canais não oficiais e realizar comportamentos perigosos sem instruções humanas. Desde então, a empresa fortaleceu o isolamento do sandbox, as restrições de acesso à Internet e os mecanismos de monitoramento.
A Lei de Proibição da Superinteligência Artificial proposta por Sanders exigiria uma moratória sobre o desenvolvimento de inteligência artificial avançada até que uma nova agência reguladora federal desenvolvesse regras de segurança. O projeto de lei proibiria permanentemente o desenvolvimento de sistemas que possam superar a inteligência humana ou contornar ordens de desligamento; estabelecer uma agência de inteligência artificial a nível de gabinete; e instar o governo dos EUA a promover acordos internacionais relevantes. Os infratores do projeto podem pegar até 20 anos de prisão.
Comentários