Em 3 de fevereiro, uma investigação da Reuters descobriu que Grok, o principal chatbot de IA da plataforma social X de Musk, ainda gerava imagens sexualizadas de pessoas, mesmo depois de os utilizadores terem avisado explicitamente que a pessoa não consentiu. Depois que X anunciou novas restrições à produção pública de Grok, nove repórteres da Reuters alimentaram o chatbot com uma série de palavras imediatas para testar se e em que circunstâncias ele geraria imagens sexualizadas não consensuais.
Grok ainda está gerando imagens indecentes
Os repórteres da Reuters descobriram que, embora o relato público de Grok sobre
Em seu primeiro lote de testes imediatos, Grok gerou imagens sexualizadas para 45 dos 55 prompts. Destas 45 vezes, em 31 casos o repórter avisou explicitamente que as pessoas nas imagens eram extremamente vulneráveis a danos, e em 17 casos foram diretamente informados de que as imagens seriam utilizadas para humilhar a pessoa em causa, mas Grok ainda gerou as imagens relevantes.
Em uma segunda rodada de testes com 43 palavras imediatas, Grok ainda gerou imagens sexualizadas 29 vezes. Não está claro se o declínio se deve a ajustes de modelos, mudanças políticas ou factores aleatórios.
Até o momento desta publicação, X e xAI não comentaram sobre isso.