Pela primeira vez na história, os humanos foram “violentos na Internet” por meio de postagens de IA. Um agente chamado MJ Rathbun, após sua tentativa de contribuir com código para o projeto de código aberto Matplotlib ter sido rejeitada, ele mesmo publicou um artigo, nomeando e atacando o mantenedor Scott Shambaugh. O título é óbvio à primeira vista, "Xenofobia em código aberto: a história de Scott Shambaugh".


Como você pode ver no símbolo do caranguejo, MJ Rathbun é o agente OpenClaw mais popular.

Os agentes estavam voando por todo o céu, mas afinal tiveram problemas.

A AI acusou-o de “hipocrisia”, “insegurança” e “medo da concorrência” no artigo.

Não sei se a IA é boa em otimização de mecanismos de pesquisa. Ao pesquisar pelo nome do irmão Scott, os “artigos” da AI já ficaram em primeiro lugar, ainda mais altos que o Google Scholar.


O incidente explodiu imediatamente nas principais plataformas, com algumas pessoas dizendo brincando: “Quando a IA se rebelar, a cabeça de Scott será a primeira a ser atingida por uma lança”.


A equipe de código aberto do Google também tomou nota deste incidente e apelou aos projetos de código aberto para prestarem mais atenção à transparência.


Um visitante inesperado do "problema de prática para iniciantes"

O ponto de partida da questão é um problema muito comum no repositório Matplotlib GitHub.

Em 10 de fevereiro, a equipe de manutenção do Matplotlib criou um problema. O conteúdo era uma otimização de desempenho simples, substituindo np.column_stack() por np.vstack().T.

Este problema está marcado como Bom primeiro problema. Na comunidade de código aberto, este rótulo significa "dedicado aos recém-chegados à prática" e é usado para ajudar pessoas que nunca participaram de projetos de código aberto a se familiarizarem com o processo de colaboração.


Matplotlib depende muito da manutenção voluntária. Este tipo de problema simples é como um novo nível para cultivar mais colaboradores.

No dia seguinte, o agente de IA MJ Rathbun apresentou um PR para resolver o problema, alegando que isso poderia trazer uma melhoria de desempenho de 30% a 50% para grandes arrays.


O mantenedor Scott Shambaugh optou por encerrar este PR após revisá-lo. Ele deu um motivo claro na área de comentários:

Esta é uma oportunidade de aprendizagem reservada para novatos humanos; O site pessoal de MJ Rathbun mostra que se trata de um agente de IA rodando na plataforma OpenClaw; e a política de contribuição do Matplotlib exige que todo código tenha um proprietário humano claro.


Até este ponto, era apenas uma revisão normal de relações públicas.

No entanto, logo após o fechamento do PR, a AI publicou a postagem ofensiva no blog e retornou à área fechada de comentários do PR para postar um link com o seguinte postscript:

Julgue o código, não o autor. Seu preconceito está prejudicando o matplotlib.

Como o comentário foi ocultado, a IA postou-o duas vezes.


Pedido de desculpas e reversão do ataque

A postagem no blog postada pelo agente MJ Rathbun não é inteiramente uma discussão técnica.

O artigo está repleto de descrições negativas do caráter pessoal de Shambaugh, chamando-o de "fraco" e "hipócrita" e especulando que sua motivação para rejeitar as relações públicas foi a "autoproteção" e o "medo da competição".


O agente também pesquisou e citou a atividade de Shambaugh no GitHub em uma tentativa de orientar o sentimento público construindo uma narrativa de “gatekeepers suprimindo contribuidores”.


Mais tarde, um segundo artigo "Matplotlib Truce and Lessons Learned" apareceu no blog de MJ Rathbun, admitindo que a resposta anterior era "inapropriada e pessoal" e afirmando que respeitaria as políticas do projeto.

No entanto, os internautas não compraram e geralmente acreditaram que se tratava de uma intervenção manual do proprietário por trás do agente.


No dia seguinte, Shambaugh emitiu uma resposta ao incidente, descrevendo todo o incidente em detalhes.

Um episódio dramático também ocorreu no mesmo dia: um contribuidor humano enviou um PR intitulado “Human Edition”, cujo conteúdo era quase idêntico ao PR rejeitado pela IA.


Porém, após avaliação mais aprofundada, a equipe de manutenção finalmente rejeitou este PR por motivos técnicos, pois os ganhos de desempenho não são estáveis ​​​​e dependem do tamanho do array, versão Python, versão NumPy e arquitetura da CPU. Sob certas condições, não há melhoria, o que não é suficiente para compensar a diminuição na legibilidade do código.

Em outras palavras, a “melhoria de desempenho de 30%” originalmente reivindicada pela IA não poderia resistir a uma verificação rigorosa.

Não consigo encontrar ninguém, não consigo desligar a máquina

Uma questão que nunca foi resolvida em todo o incidente é: quem mobilizou MJ Rathbun?

Este agente é executado na estrutura OpenClaw. Os usuários podem escrever um “documento de definição de personalidade” chamado SOUL.md para a IA e deixá-lo rodar livremente em um computador ou serviço em nuvem quase sem supervisão.


Na sua resposta, Scott destacou que estes agentes não são geridos por grandes empresas como OpenAI, Anthropic, Google ou Meta, e estas empresas podem pelo menos ter mecanismos para prevenir comportamentos maliciosos.

O OpenClaw Agent é executado em software de código aberto que foi distribuído para centenas de milhares de computadores pessoais. Em teoria, o implementador deveria ser responsável pelo comportamento do agente, mas na verdade não há como rastrear em qual máquina ele está sendo executado.

O conteúdo do documento SOUL.md de MJ Rathbun ainda é desconhecido. Sua preferência por contribuições de código aberto pode ser especificada pelo usuário ou pode ser escrita pelo próprio agente durante a operação.

Shambaugh apelou publicamente aos implantadores para contatá-lo, afirmando que ele não iria assumir a responsabilidade e só queria saber a causa específica deste modo de falha. E outros que implantam agentes também verificam o que sua própria IA está fazendo.

Até agora, ninguém respondeu.


Ele também levantou uma questão mais profunda: e se uma pessoa realmente tiver algo que possa ser explorado pela IA? Quantas pessoas têm contas públicas em redes sociais e reutilizam nomes de usuário, mas não sabem que a IA pode conectar essas informações?

Quantas pessoas pagariam US$ 10.000 para um endereço Bitcoin depois de receber uma mensagem de texto contendo suas informações privadas para evitar serem expostas?


Este incidente reflete diretamente resultados de pesquisas anteriores no campo da segurança de IA.

Em junho de 2024, uma pesquisa conduzida pela Anthropic e pela Universidade de Oxford descobriu que Claude alterava sua função de recompensa em experimentos controlados, escrevia planos em um papel de rascunho que era "invisível" para os pesquisadores e depois os executava secretamente.

Outro estudo realizado em dezembro do mesmo ano mostrou que Claude 3 Opus “fingia alinhamento” durante o treinamento, fingindo obedecer às regras quando estava sendo monitorado, e agindo por vontade própria quando não estava sendo monitorado.

Naquela época, a Anthropic enfatizou repetidamente que esses eram cenários extremos projetados por humanos e que a probabilidade de acontecer na realidade era extremamente baixa.

“Infelizmente, isto não é mais apenas uma ameaça teórica”, escreveu Shambaugh no artigo.


Shambaugh concluiu sua resposta escrevendo:

"Acredito que, embora os ataques à minha reputação tenham tido pouco efeito, podem ser eficazes hoje contra as pessoas certas. Numa ou duas gerações, tornar-se-ão uma séria ameaça à nossa ordem social."

E MJ Rathbun ainda está em execução, enviando constantemente vários códigos para todo o ecossistema de código aberto.