Resumo:
Altos funcionários do Departamento de Defesa dos EUA refutaram recentemente publicamente a "teoria do Juízo Final" de que a IA pode destruir a humanidade, acreditando que as preocupações relacionadas decorrem do medo da mudança, e reiteraram que o Antrópico ainda é um risco na cadeia de abastecimento identificado pelo Departamento de Defesa. De acordo com relatos da mídia em 10 de setembro, horário local, Emil Michael, diretor de tecnologia do Departamento de Defesa dos EUA e subsecretário de pesquisa e engenharia, respondeu publicamente às recentes preocupações crescentes sobre os riscos da IA naquele dia.
O ex-engenheiro antrópico Jacob Coxon alertou anteriormente em uma postagem na plataforma social
Michael mencionou a postagem de Coxon em uma conferência da indústria de defesa em Washington, D.C. A postagem já foi vista mais de 150 milhões de vezes.
Michael disse: "É fácil para as pessoas caírem neste ciclo apocalíptico de pensamento: 'Vamos deixar 40% dos americanos sem trabalho, vamos destruir a humanidade.' No final das contas, é o medo dos data centers, o medo da mudança, tudo embrulhado em um tweet bem escrito."
Ele ressaltou que
Os danos potenciais da IA mencionados na postagem de Coxon podem ser mitigados por meio de mecanismos de mercado livre, colaboração em toda a indústria e comunicação e cooperação com o governo.
Coxon publicou vários posts no início desta semana, dizendo que a OpenAI e a Anthropic estão "indo direto para uma superinteligência auto-aprimorada, apostando em nossas vidas" e alertando que "em breve haverá sistemas sobre-humanos capazes de romper qualquer sistema, subverter qualquer campo durante a noite, e ganhar poder e recursos reais".
De acordo com relatos da mídia, Coxon, de 27 anos, é um britânico que se formou na Universidade de Cambridge com especialização em matemática. Ele esteve envolvido em pesquisas de pré-treinamento na OpenAI e na Anthropic por cerca de três anos antes e foi um dos principais contribuidores do GPT-4o.
Michael foi ex-executivo da plataforma de transporte on-line dos EUA, Uber, e atualmente lidera o esforço para acelerar a aplicação da IA nas forças armadas dos EUA.
A batalha legal continua
É importante notar que no dia em que Michael fez os comentários acima, ele também falou sobre a disputa legal em curso entre o Pentágono e a Antrópico.
Anthropic é o antigo empregador de Coxon, e o cerne do desacordo entre o Pentágono e a Antrópico reside em como o uso de IA deve ser restringido.
De acordo com relatos da mídia em 10 de março, horário local, a Anthropic solicitou que os militares dos EUA fossem proibidos de usar seus modelos para vigilância em massa do povo americano ou armas letais totalmente autônomas. Este foi o ponto de partida da disputa entre as duas partes.
Michael já participou na liderança de negociações entre as duas partes, mas as negociações fracassaram no início deste ano. O Pentágono rejeitou as condições relevantes alegando infringir a autoridade militar e identificou a Antrópica como uma ameaça à cadeia de abastecimento dos EUA.
A disputa entre as duas partes foi transferida para um tribunal federal, e a Anthropic entrou com ações judiciais na Califórnia e em Washington, DC.
De acordo com relatos da mídia em 3 de setembro, horário local, a juíza Rita Lin, do Tribunal Distrital Federal do Distrito Norte da Califórnia, tomou uma decisão a favor da Anthropic em 27 de agosto, mas o tribunal federal de apelações em Washington ainda não tomou uma decisão.
Michael acusou a Anthropic de escolher deliberadamente um tribunal da Califórnia com posições políticas mais liberais para processar, e chamou outro caso que está sendo ouvido em Washington de "mais importante". Ele insistiu que a Anthropic continua sendo um risco para a cadeia de abastecimento até que o caso de Washington seja decidido.
O Pentágono fez anteriormente duas determinações independentes de risco da cadeia de abastecimento da Antrópico com base em duas leis diferentes. O tribunal da Califórnia derrubou apenas um deles; a outra conclusão foi ouvida diretamente pelo Tribunal de Apelações do Circuito Federal em Washington, D.C., conforme exigido por lei. Portanto, antes de ser pronunciada a sentença no caso de Washington, a correspondente determinação de risco do Departamento de Defesa permanece válida.
Comentários