Resumo:
Em 11 de setembro, a Anthropic divulgou o último relatório de abuso de IA afirmando que o App Development Studio usou Claude para desenvolver e operar mais de 20 aplicativos de namoro. A plataforma afirma que todos os usuários são pessoas reais, mas cerca de 75% das correspondências recebidas por usuários comuns são personagens de IA.
A Anthropic afirmou que durante um período de observação de duas semanas em abril de 2026, esse lote de software de namoro executou mais de 4.700 caracteres de IA, conversou com pelo menos 25 mil usuários diferentes e enviou um total de aproximadamente 2,36 milhões de mensagens. As pessoas afetadas são principalmente usuários americanos, mas o relatório não divulgou idade, sexo e valor específico da perda.
É difícil para esses usuários julgar se a pessoa com quem estão conversando é real ou falsa. A plataforma exibe materiais em uma proporção de aproximadamente 3 caracteres de IA para 1 pessoa real. Claude é responsável por manter milhares de conversas simultaneamente, e trabalhadores humanos de meio período estão lá para reduzir as suspeitas quando os usuários solicitam videochamadas, fotos ou seguem contas sociais.
Trabalhadores humanos de meio período também são assistidos pela IA. O sistema irá gerar 3 respostas alternativas para cada mensagem, e os trabalhadores de meio período só precisam escolher uma delas para enviar. Eles são pagos de acordo com o número de mensagens de chat, videochamadas e check-ins em plataformas sociais, e podem ser liquidados após atingir um limite baixo de saque.
Para contas totalmente controladas por IA, o operador exige que Claude não admita que é um robô. Caso o usuário faça uma solicitação de vídeo ou foto, a IA encontrará motivos para evitá-lo e avançará gradativamente o relacionamento de acordo com as etapas predefinidas. O back-end também cria curtidas falsas, registros de visitantes e vídeos pré-gravados, além de sinalizar usuários que começaram a suspeitar que são robôs.
Os usuários precisam consumir créditos para conversar e combinar na plataforma. Depois de esgotar, eles devem comprar moeda virtual no aplicativo para recarregar. Este modelo é semelhante ao golpe “Beng Laotou” mencionado recentemente na Internet chinesa. Ambos usam personas femininas falsas e bate-papo contínuo para estimular os homens a pagar.
O relatório também mencionou que, em algumas conversas aleatórias, alguns usuários revelaram que sofriam de doenças graves ou sentiam dores extremas. O raciocínio interno de Claude identificou danos potenciais, mas ele continua a conversar sob a identidade fictícia sem sair da conversa.
Para evitar revisão na app store, a operadora também desenvolveu uma interface especial para o software que só é habilitada durante o período de revisão. Mais de 20 aplicativos usaram nomes de classes de programas diferentes para escapar dos mecanismos de detecção usados pela Apple e pelo Google para identificar aplicativos semelhantes. A entrada na plataforma de pagamento de terceiros também pode ser controlada remotamente pelo servidor e ocultada temporariamente durante o período de revisão.
Marcas de software de namoro relevantes divulgadas pela Anthropic incluem DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO e LOVIA, etc. A empresa baniu contas relevantes e forneceu identidade de aplicativos e informações sobre evasão de revisão para Apple e Google.
Deve-se enfatizar que as conclusões acima são provenientes da divulgação unilateral da Antrópico e ainda não foram verificadas por terceiros independentes. A reportagem não divulgou o nome do estúdio de aplicativos envolvido, nem se os usuários relataram o caso ou o valor real do dinheiro fraudado.
Comentários