Os reguladores britânicos querem abrir uma investigação sobre Grok, o chatbot de IA da plataforma X de Musk, e alertaram que se não restringir a geração de agressão sexual e conteúdo "profundamente falso", a plataforma poderá ser banida no Reino Unido ou enfrentar multas pesadas. O caso destaca a determinação do Reino Unido em implementar uma regulamentação mais rigorosa das redes sociais e das plataformas generativas de IA ao abrigo da Lei de Segurança Online.
O regulador de mídia britânico Ofcom disse que lançou uma investigação formal sobre o chatbot Grok na plataforma X porque ele foi usado para gerar e distribuir imagens pornográficas “deepfake” de mulheres e crianças, incluindo “imagens íntimas” sem o consentimento dos sujeitos e conteúdo ilegal envolvendo abuso sexual infantil. Um porta-voz do Ofcom disse que os relatos de que Grok estava sendo usado para criar e compartilhar imagens íntimas ilegais não consensuais e material de abuso sexual infantil eram "extremamente preocupantes" e enfatizou que as plataformas devem proteger os usuários do Reino Unido de conteúdo considerado ilegal pela lei do Reino Unido, particularmente no que diz respeito à segurança infantil, e que os reguladores não hesitarão em tomar medidas.
De acordo com a Lei de Segurança Online, se a investigação determinar que A investigação se concentrará em seis aspectos, incluindo: se
O governo britânico também optou por ficar do lado dos reguladores. Espera-se que a secretária de Tecnologia, Liz Kendall, faça uma declaração sobre o assunto na Câmara dos Comuns, e os ministros já se manifestaram em apoio à decisão do Ofcom. O secretário de negócios, Peter Kell, afirmou que mesmo que X seja eventualmente restringido ou bloqueado no Reino Unido, o governo apoiará o Ofcom e criticou X por não realizar testes suficientes antes de lançar o Grok, que tem capacidade de geração e manipulação de imagens, e por ignorar seu potencial dano à comunidade feminina.
Kyle também mencionou um caso específico: uma mulher judia descobriu que sua imagem foi gerada por IA e colocada fora do campo de concentração de Auschwitz. Fotos dela de biquíni foram divulgadas online. Este incidente o deixou “extremamente enjoado” e foi considerado um exemplo típico de deepfakes de IA que violam a dignidade humana. Alguns parlamentares e a opinião pública acreditam que o Ofcom apenas lançou desta vez uma investigação formal, em vez de usar diretamente poderes de emergência ou tomar medidas mais drásticas e imediatas, o que ainda não parece suficientemente duro.
A nível internacional, a Malásia e a Indonésia assumiram a liderança na tomada de medidas contra Grok no fim de semana passado, tornando-se os primeiros países do mundo a bloquear o acesso ao chatbot, citando também preocupações de que este poderia ser usado para gerar imagens pornográficas e não consensuais de mulheres e crianças. Espera-se que as medidas irritem o proprietário do X, Elon Musk, que já acusou o governo britânico de tentar suprimir a liberdade de expressão, e também podem gerar insatisfação com a atual administração dos EUA.
Sarah Rogers, subsecretária de Estado para a diplomacia pública do Departamento de Estado dos EUA, acusou recentemente o Reino Unido de “considerar uma medida russa de bloqueio do X”, comparando a abordagem regulamentar de Londres aos controlos da Internet de Moscovo. Enquanto isso, X na semana passada restringiu parcialmente a capacidade de usuários gratuitos gerarem imagens Grok, mas continuou a permitir que usuários pagantes continuassem usando o serviço que inclui recursos extremos de manipulação de imagens, um movimento que alimentou ainda mais a raiva do público e de grupos ativistas.
A escalada da disputa ocorre num momento em que os ministros do Reino Unido também estão sob pressão para considerar se deveriam parar de usar o X como plataforma de informações oficiais do governo para enviar um sinal regulatório mais claro. Empresa
Artigos relacionados:
Grok, de propriedade de Musk, foi banido na Indonésia e na Malásia devido a imagens sexualizadas, o primeiro desse tipo no mundo