Resumo:
De acordo com um relatório de análise reversa divulgado pelo pesquisador de segurança Xusheng Li, a Microsoft adicionará marcas d'água cegas invisíveis a imagens geradas por IA em aplicativos Paint e Photo/Album. O identificador usado pela marca d'água cega vem dos servidores da Microsoft, e esse mecanismo é completamente independente da marca d'água Microsoft Copilot que os usuários podem ativar/desativar por conta própria, portanto, os usuários não podem desligar completamente a marca d'água cega.
A geração local de imagens no AI PC ainda requer uma conexão com servidores Microsoft:
Uma pesquisa descobriu que, embora a função de criação do aplicativo Paint possa use AI PC Um modelo de difusão estável local gera imagens, mas todo o processo não está completamente offline. Antes de iniciar a geração, o aplicativo Paint enviará as palavras de prompt e o estilo selecionado preenchido pelo usuário ao servidor Microsoft para revisão. O servidor retornará então as palavras de prompt modificadas, o ID de geração de palavras de prompt e o ID da marca d'água e, em seguida, a imagem será gerada localmente no computador por meio da unidade NPU.
Depois que a imagem for gerada, o aplicativo Paint chamará o controle de marca d'água cega para gravar os parâmetros relacionados à marca d'água cega de 16 bytes retornados pelo servidor nos pixels da imagem. A marca d'água cega em si é invisível a olho nu, mas a Microsoft pode identificar se a imagem foi gerada pelo aplicativo Paint por meio de determinados mecanismos de detecção.
Os identificadores GUID são gravados diretamente nos pixels da imagem:
A análise reversa mostra que o mecanismo de marca d'água cega irá 16 O byte O GUID foi expandido para dados de 144 bits e depois incorporado fazendo pequenas modificações em vários blocos da imagem. Os pesquisadores usaram uma imagem de 512x512 pixels para teste. Depois que a Microsoft adicionou uma marca d'água cega, mais de 190.000 pixels mudaram ligeiramente.
O que é mais digno de nota é que no aplicativo de desenho, se o mecanismo de marca d'água cega não for escrito, a tarefa de geração de imagem de IA será diretamente considerada uma falha, em vez de retornar uma imagem sem marca d'água. Pode-se observar que a Microsoft considera este processo um elo necessário na geração de IA, e nenhuma imagem será gerada a menos que a marca d’água cega seja concluída.
Capturas de tela/cortes, etc. não afetam o reconhecimento da Microsoft:
Além de modificar os pixels, o aplicativo Paint também adicionará o certificado de conteúdo C2PA de todo o setor à imagem. Depois de verificar o arquivo PNG gerado, os pesquisadores descobriram que a lista C2PA não apenas marcava claramente a imagem como gerada pela IA, mas também registrava informações da marca d'água cega do Microsoft InvisMark.
O valor da marca d'água salvo lá é exatamente o mesmo que o ID da marca d'água cega retornado anteriormente pelo servidor e realmente gravado nos pixels da imagem, o que significa que a Microsoft está realmente usando duas camadas de prova de origem: metadados C2PA + marca d'água invisível escondida nos pixels da imagem. Portanto, mesmo que os usuários excluam os metadados C2PA por meio de determinadas ferramentas, a Microsoft ainda poderá identificar a marca d'água por meio de pixels. Por exemplo, capturas de tela simples, cortes, etc. não podem destruir completamente a marca d'água cega.
Além disso, as funções de geração de imagem por IA e conversão de estilo no aplicativo Fotos/Álbum da Microsoft também usam o mecanismo de marca d’água cega. Algumas diferenças são: se o aplicativo Paint não conseguir gravar a marca d'água, ele encerrará diretamente a geração da imagem, enquanto o aplicativo Álbum registrará o erro e continuará retornando os resultados gerados.
Comentários