Uma série de incidentes em torno do Grok, uma ferramenta de IA de propriedade da Empresa X, atraiu a atenção no Japão. Descobriu-se que alguns estudantes japoneses do ensino médio e universitário usaram o Grok para gerar imagens sexualmente sugestivas ou sexualizadas de seus colegas de classe sem o seu consentimento. Este comportamento causou desconforto generalizado e os usuários relevantes também começaram a se preocupar com possíveis consequências legais.
Desde que Grok lançou a função de geração e edição de imagens em 24 de dezembro de 2025, um grande número de imagens sintéticas que geram personagens da vida real em corpos nus ou vestindo roupas íntimas reveladoras apareceram nas plataformas sociais, o que gerou muitas reclamações das vítimas.
Em 6 de janeiro, a Companhia
Posteriormente, um grande número de consultas relacionadas apareceu no site japonês de consultoria jurídica Bengoshi.com. A maioria dos questionadores eram adolescentes e jovens usuários. Eles disseram que não estavam cientes dos riscos legais que podem surgir do uso do Grok. Por exemplo, alguns estudantes do ensino secundário confessaram que tinham gerado vídeos nus de raparigas nas suas turmas e, embora não tivessem sido divulgados, estavam preocupados se o próprio acto de "fazer" constituía um acto ilegal; alguns também perguntaram se dar instruções à IA para transformar colegas em imagens de roupas íntimas seria considerado produção de conteúdo pornográfico; alguns estudantes universitários disseram que embora suas contas e dados tenham sido excluídos, eles ainda estão preocupados se a plataforma enviará informações relevantes à polícia, e estão até pensando em se entregar.
Yohei Shimizu, advogado especializado em direito da Internet, destacou que tal comportamento pode de fato desencadear responsabilidade legal. Explicou que se as imagens geradas envolverem nudez ou conteúdo obviamente de conotação sexual, poderá constituir uma violação da reputação ou da privacidade das partes; em casos graves, pode até envolver difamação criminal ou questões de violação de direitos autorais.
Esses incidentes no Japão também são vistos como uma das controvérsias globais contra Grok. Os críticos argumentam que a ferramenta reduz um pouco o limite para a geração de conteúdo impróprio. Muitos usuários que consultaram o site jurídico afirmaram que não perceberam a gravidade do comportamento até verem o alerta oficial da Empresa X. Atualmente, as consequências que mais os preocupam são os processos criminais e o impacto social em suas famílias.