À medida que a tecnologia gerada por IA se torna mais difundida, o Google começará a exigir que os aplicativos Android forneçam uma maneira de denunciar conteúdo censurável gerado por IA e cumpram as novas regras de moderação sobre que tipo de conteúdo gerado por IA é aceitável.
Os aplicativos que usam inteligência artificial para gerar conteúdo devem adicionar um botão para sinalizar ou denunciar conteúdo ofensivo no início do próximo ano para permanecerem disponíveis na Play Store do Google.
O Google deseja tornar o processo de denúncia o mais simples possível para que os usuários possam denunciar sem sair do aplicativo, semelhante ao sistema de denúncia existente no aplicativo.
A empresa disse que sua política de conteúdo gerado por IA abrange chatbots de IA, aplicativos que usam imagens geradas por IA e aplicativos que usam IA para criar conteúdo de voz ou vídeo de pessoas reais. Aplicativos que hospedam conteúdo gerado por IA, aplicativos que usam IA apenas para resumir materiais como livros e aplicativos de produtividade que usam IA como recurso não estarão sujeitos à nova política.
Na opinião do Google, o conteúdo problemático de IA inclui material sexual deepfake não consensual, gravações de pessoas reais usadas para fraude, conteúdo eleitoral falso ou enganoso, aplicativos gerados por IA “principalmente com o propósito de satisfazer o desejo sexual” e a criação de código malicioso.
No seu anúncio, o Google reconheceu que a geração de IA “é uma categoria de aplicações em rápido crescimento”, dando a impressão de que o Google poderá rever as suas políticas de IA à medida que a tecnologia continua a evoluir.
Além das novas regras sobre conteúdo gerado por IA, o Google também reforçou suas políticas de permissões de fotos e vídeos da Play Store, limitando o quanto os aplicativos podem acessar dados.
“Fotos e vídeos no dispositivo de um usuário são considerados dados pessoais confidenciais do usuário e devem ser tratados com as mais estritas práticas recomendadas de privacidade”, disse a empresa. “Essas informações confidenciais podem tornar os usuários alvos fáceis para vazamentos ou exploração, portanto, minimizar esse acesso ajuda a evitar a carga sobre os desenvolvedores de lidar com esses dados confidenciais.”
Somente aplicativos que exigem amplo acesso a fotos e vídeos continuarão a obter permissões gerais, enquanto aplicativos com uso limitado de arquivos de mídia precisarão usar o seletor de fotos.