À medida que mais criadores recorrem à inteligência artificial para expressão artística, há também um impulso mais amplo para a transparência no envolvimento da inteligência artificial na criação de conteúdos. Para resolver este problema, o TikTok anunciou hoje que lançará uma nova ferramenta que permitirá aos criadores anotar conteúdo gerado por IA e começará a testar outros métodos de anotação automática de conteúdo gerado por IA.
A empresa disse acreditar que a introdução de tags de IA era necessária porque o conteúdo de IA poderia confundir ou enganar os espectadores. É claro que o TikTok atualizou sua política sobre mídia sintética, exigindo que as pessoas rotulem conteúdo de inteligência artificial contendo imagens, áudio ou vídeo realistas (como deep fakes) para ajudar os espectadores a esclarecer os detalhes do vídeo e evitar a propagação de informações enganosas. As políticas do TikTok permitem remover imagens não divulgadas de inteligência artificial realista.
No entanto, além de casos extremos em que a IA é usada para enganar intencionalmente os usuários, alguns conteúdos gerados pela IA podem oscilar entre parecer autênticos ou falsos. Nesta área cinzenta, os utilizadores finais irão geralmente apreciar mais transparência para que possam saber se o conteúdo que estão a visualizar foi fortemente editado ou criado com recurso a inteligência artificial.
A TikTok está lançando agora uma nova ferramenta que não só tornará mais fácil para os criadores cumprirem as políticas existentes sobre mídia sintética, mas também sinalizará qualquer outro conteúdo que seja gerado inteiramente usando IA ou que tenha sido fortemente editado por IA. Os criadores podem usar a ferramenta ao enviar um vídeo, e o TikTok não quer que os criadores voltem e marquem novamente seus vídeos anteriores.
Quando um criador usa a nova ferramenta, o TikTok exibirá uma mensagem sob o nome de usuário do vídeo informando que o criador marcou o vídeo como gerado por IA. No entanto, o TikTok não penalizará os criadores por não rotularem conteúdo de inteligência artificial que não se enquadre nas políticas de mídia sintética existentes.
Além disso, o TikTok também disse que está desenvolvendo um método para detectar e rotular automaticamente conteúdo de inteligência artificial. Esta semana, o TikTok começará a testar um rótulo “gerado por IA” que eventualmente será aplicado a qualquer conteúdo detectado como editado ou criado usando IA.
A empresa recusou-se a revelar detalhes específicos sobre como a sua tecnologia procurará possíveis conteúdos de IA, observando que a partilha desses detalhes poderia permitir que agentes mal-intencionados contornassem as suas capacidades de detecção. A TikTok disse, no entanto, que testaria diferentes modelos de detecção de IA e estava “avaliando” uma parceria de proveniência com o objetivo de ajudar a plataforma a detectar melhor a IA, incorporando tags de IA no próprio conteúdo.
Nos últimos meses, tanto a OpenAI quanto o Google anunciaram seus próprios recursos de detecção de IA, e rotular IA está se tornando uma prática comum entre grandes plataformas. O Instagram também parece estar trabalhando em um recurso para destacar conteúdos criados ou editados usando inteligência artificial. A União Europeia está a pressionar para que as plataformas rotulem os conteúdos de inteligência artificial como regra geral para combater a desinformação.
Para aumentar a transparência, o TikTok agora também renomeará todos os efeitos especiais que usam inteligência artificial para indicar claramente “IA” no nome. Isso é algo que ela já se recusou a divulgar. Na verdade, quando o filtro “BoldGlamor” do TikTok se tornou popular por sua excelente tecnologia de mudança de rosto dos usuários, algumas pessoas suspeitaram que o filtro não usava AR (tecnologia de realidade aumentada), mas IA. No entanto, a TikTok se recusou a responder às perguntas da mídia na época sobre se o produto era inteligência artificial.
Com a nova mudança de rótulo, os usuários agora podem determinar rapidamente quais filtros TikTok usam IA. A empresa disse que suas Diretrizes atualizadas para criadores de Effect House exigirão que eles façam o mesmo.
A TikTok observou que, ao desenvolver novas tags de IA, consultou seu conselho consultivo de segurança e especialistas do setor, incluindo o Dr. David G. Rand, do Instituto de Tecnologia de Massachusetts, cuja pesquisa examinou as reações dos usuários a diferentes tipos de tags de IA. Para tanto, o TikTok espera que o termo “geração de inteligência artificial” possa ser amplamente compreendido por diferentes grupos de pessoas.
Nas próximas semanas, o TikTok também lançará vídeos educacionais e outros recursos de alfabetização midiática para ajudar os usuários a compreender melhor a inteligência artificial.
Essas atualizações seguem outras iniciativas da TikTok em torno da inteligência artificial na mídia, incluindo o compromisso de fevereiro de aderir à Parceria sobre Práticas Responsáveis de IA para Mídia Sintética, um código da indústria de melhores práticas para transparência e inovação responsável em inteligência artificial. Em agosto deste ano, a empresa também fez parceria com a organização sem fins lucrativos Digital Moment para realizar uma mesa redonda com jovens para entender suas opiniões sobre o desenvolvimento online de inteligência artificial.
As tags AI serão lançadas a partir de hoje, mas talvez você não as veja imediatamente até que a implementação seja concluída.