Alguns testes iniciais de usuários da nova ferramenta de adesivos gerada por IA do Meta produziram algumas criações questionáveis (e bastante hilárias). O usuário X @Pioldes criou uma série de imagens de adesivos inadequadas depois de obter acesso à nova ferramenta de adesivos gerada por IA no Facebook Messenger, incluindo crianças-soldados, personagens da Nintendo armados, um Mickey Mouse fazendo cocô e uma ilustração nua do primeiro-ministro canadense Justin Trudeau.
Outros exemplos mostram que a ferramenta de adesivos de IA do Meta é capaz de anexar um par de seios a praticamente qualquer coisa, como imagens de Sonic the Hedgehog e Karl Marx. Há até um adesivo mostrando uma mulher amamentando o Pikachu.
Esses adesivos de bate-papo gerados por IA foram anunciados no evento Meta's Connect na semana passada, juntamente com o anúncio do novo editor de fotos com tecnologia de IA do Instagram. Os adesivos gerados por IA são alimentados pelo modelo de linguagem de grande escala Llama2 da Meta (concorrente ChatGPT da empresa), permitindo aos usuários “criar vários adesivos exclusivos e de alta qualidade em segundos” usando prompts baseados em texto.
Os adesivos gerados por IA estão sendo lançados para “usuários selecionados que falam inglês” de Facebook Stories, Instagram Stories e DMs, Messenger e WhatsApp, e continuarão a ser lançados para mais pessoas este mês, então não está claro quantos usuários terão acesso ao recurso.
Certas palavras parecem estar bloqueadas e usá-las em prompts alertará os usuários de que suas descrições podem violar as diretrizes da comunidade Meta. No entanto, outros usuários do X relataram que ainda poderiam gerar conteúdo impróprio usando erros de digitação ou descrições de palavras restritas. Em alguns casos, prompts como “World Trade Center” gerarão a imagem em questão sem qualquer descrição adicional.
Esse tipo de pegadinha é comum durante o lançamento de ferramentas de IA, e pode ser por isso que o Meta tem uma distribuição limitada de adesivos gerados por IA. Desta forma, pode abordar e corrigir o abuso antes que se espalhe para as massas.