O gerador de imagens DALL-E3 da OpenAI adicionará marcas d'água aos metadados de imagens à medida que mais empresas implementam suporte para o padrão Content Authenticity Alliance (C2PA). A empresa afirmou que a marca d'água do C2PA aparecerá nas imagens geradas pelo site ChatGPT e na API do modelo DALL-E3. Os usuários móveis receberão a marca d'água até 12 de fevereiro. A marca d'água incluirá um componente de metadados invisível e um símbolo CR visível, que aparecerá no canto superior esquerdo de cada imagem.
As pessoas podem verificar a procedência (ou seja, qual ferramenta de IA foi usada para criar o conteúdo) de qualquer imagem gerada pela plataforma OpenAI por meio de sites como Content Credentials Verify. Até agora, apenas imagens estáticas podem ter marca d'água, não vídeos ou texto.
A OpenAI afirma que adicionar metadados de marca d’água às imagens “tem um impacto insignificante na latência e não afeta a qualidade da imagem resultante”. Também aumenta ligeiramente o tamanho da imagem para algumas tarefas.
O grupo C2PA, formado por empresas como Adobe e Microsoft, tem pressionado pelo uso de uma marca d’água de “certificado de conteúdo” para identificar a procedência do conteúdo e mostrar se foi produzido por humanos ou por inteligência artificial. A Adobe criou um símbolo de voucher de conteúdo que a OpenAI está adicionando à criação do DALL-E3. A Meta anunciou recentemente que adicionará tags ao conteúdo gerado por IA em sua plataforma de mídia social.
A identificação de conteúdo gerado por IA é uma das principais diretrizes da ordem executiva da administração Biden sobre inteligência artificial. Mas as marcas d'água não são uma maneira infalível de impedir a desinformação. OpenAI apontou que os metadados do C2PA “podem ser facilmente excluídos acidentalmente ou intencionalmente”, especialmente porque a maioria das plataformas de mídia social geralmente exclui metadados do conteúdo carregado, e as capturas de tela também omitem os metadados das imagens.
“Acreditamos que empregar estes métodos para determinar a proveniência e encorajar os utilizadores a reconhecer estes sinais é fundamental para aumentar a fiabilidade da informação digital”, afirma a OpenAI no seu website.