Resumo:
A Apple anunciou recentemente que atualizou as diretrizes de revisão da App Store e tomará medidas de gerenciamento mais rigorosas contra imagens privadas involuntárias geradas por inteligência artificial. Anteriormente, as regras da plataforma proibiam conteúdo sexualmente explícito, e os regulamentos mais recentes exigem ainda que os desenvolvedores previnam, monitorem e removam proativamente esse conteúdo profundamente falso gerado pela IA. Se os desenvolvedores não tomarem medidas eficazes, os aplicativos relevantes poderão ser removidos da App Store.
Na cláusula 1.2 atualizada, a Apple nomeia claramente as categorias de aplicativos que envolvem a geração de conteúdo de IA pela primeira vez. Acredita-se que esse movimento esteja relacionado a alguns produtos generativos de IA, incluindo serviços de chatbot que causaram polêmica por gerar nudez e conteúdo deepfake sexualizado. Anteriormente, a Apple havia alertado os desenvolvedores relevantes que, se aplicativos relevantes continuassem a permitir a geração de imagens deepfake de nudez, eles correriam o risco de serem removidos da App Store. Posteriormente, a empresa adicionou mecanismos de proteção de segurança correspondentes e obteve a aprovação da Apple para lançar uma versão atualizada.
Ao mesmo tempo, a Apple adicionou uma nova diretriz de revisão numerada 2.5.19 para enfatizar que os desenvolvedores não estão autorizados a adicionar novos recursos que não foram divulgados durante a fase de revisão, após o aplicativo ter sido aprovado na revisão. A Apple mencionou especificamente os chamados “Aplicativos de Nudificação”, que são aplicativos que usam inteligência artificial para falsificar fotos de pessoas reais em imagens nuas ou pornográficas. A Apple acredita que alguns desenvolvedores podem ocultar o verdadeiro propósito de seus aplicativos durante o período de revisão e esperar até que o aplicativo seja aprovado para ficar online antes de ativar as funções relacionadas.
De acordo com os novos regulamentos, qualquer aplicativo que contenha funções ocultas ou não reveladas será banido das prateleiras, incluindo aplicativos que disfarçam deliberadamente sua finalidade durante a fase de revisão e depois abrem recursos prejudiciais após a aprovação. A Apple destacou que esse tipo de prática é um comportamento típico de “isca e troca”, e a função “despir-se” é um caso representativo desse tipo de violação.
Além dos regulamentos sobre conteúdo gerado por IA, a Apple também revisou a Parte 5 das diretrizes de revisão para estender a proibição original de aplicativos sobre tráfico humano e exploração infantil para canais alternativos de distribuição de aplicativos. Isso significa que os aplicativos estão sujeitos aos mesmos requisitos de segurança de conteúdo, sejam eles disponibilizados na App Store oficial ou em outros métodos de distribuição permitidos.
Em seu anúncio aos desenvolvedores, a Apple enfatizou que a empresa não hesitará em tomar medidas punitivas, como remover aplicativos das prateleiras e encerrar as qualificações de desenvolvedor para aplicativos e desenvolvedores que violem essas regulamentações.
Esta atualização de regra mostra que, à medida que as ferramentas generativas de inteligência artificial se tornam cada vez mais populares, a Apple está fortalecendo ainda mais sua supervisão de falsificações profundas, geração de imagens privadas não consensuais e abusos relacionados para reduzir o risco de a tecnologia de IA ser usada para assediar, explorar ou invadir a privacidade.
Leia o texto completo das regras:
https://developer.apple.com/app-store/review/guidelines/
Comentários