A Meta se desculpou na quinta-feira, dizendo que corrigiu um “bug” que fazia com que alguns usuários do Instagram relatassem quantidades excessivas de conteúdo violento e gráfico recomendado em suas páginas pessoais “Reels”. “Corrigimos um bug que fazia com que alguns usuários vissem conteúdo em seu Instagram Reelsfeed que não deveria ter sido recomendado”, disse um porta-voz da Meta em comunicado. "Pedimos desculpas por esse erro."

A declaração vem depois que alguns usuários do Instagram expressaram preocupações em várias plataformas de mídia social sobre a recente onda de recomendações de conteúdo violento e “não seguro para o trabalho”.

Alguns usuários alegaram ter visto tal conteúdo, embora os controles de conteúdo sensível do Instagram estivessem habilitados para a configuração de moderação mais alta.

De acordo com a política de mídia, a empresa trabalha para proteger os usuários de imagens perturbadoras e para remover conteúdos particularmente violentos ou gráficos.

O conteúdo banido pode incluir “vídeos retratando desmembramentos, entranhas visíveis ou cadáveres carbonizados”, bem como “comentários sádicos sobre imagens que retratam o sofrimento humano e animal”.

No entanto, Meta disse que também permitiria conteúdo gráfico se ajudar os usuários a condenar e aumentar a conscientização sobre questões importantes, como violações dos direitos humanos, conflitos armados ou atos de terrorismo.

Na noite de quarta-feira, a CNBC viu várias postagens no Instagram nos Estados Unidos que pareciam incluir cadáveres, imagens de feridos e ataques violentos. Essas postagens são marcadas como “conteúdo sensível”.

De acordo com o site da Meta, ela utiliza tecnologia interna e uma equipe de mais de 15 mil moderadores para ajudar a detectar imagens perturbadoras.

A tecnologia inclui inteligência artificial e ferramentas de aprendizado de máquina que ajudam a priorizar postagens e remover “a grande maioria do conteúdo violador” antes que os usuários o denunciem, disse o site.

Além disso, a Meta se esforça para evitar recomendar em sua plataforma conteúdo que possa ser de “baixa qualidade, ofensivo, sensível ou inapropriado para o público jovem”.

No entanto, o erro do InstagramReels ocorre depois que Meta anunciou planos de atualizar sua política de moderação para promover melhor a liberdade de expressão.

Em comunicado divulgado em 7 de janeiro, a empresa disse que mudaria a forma como aplica algumas regras de conteúdo para reduzir erros que levam à censura dos usuários.

Meta disse que isso inclui mudar seus sistemas automatizados de varredura de “todas as violações de políticas” para focar em “violações de políticas graves e ilegais, como terrorismo, exploração sexual infantil, drogas, fraudes e golpes”. Para violações de política menos graves, a empresa acrescentou que contará com os usuários para relatar problemas antes de tomar medidas.

Chris Kelly, ex-diretor de privacidade do Facebook, disse que a Meta está retornando à sua tradição de liberdade de expressão. Enquanto isso, a Meta disse que seus sistemas haviam rebaixado muito conteúdo com base em previsões de que era “provável” violar os padrões e que estava “eliminando a maioria dos rebaixamentos”.

O CEO Mark Zuckerberg também anunciou que a empresa permitiria mais conteúdo político e mudaria seu programa de verificação de fatos de terceiros para um modelo de “notas da comunidade”, semelhante ao sistema da plataforma X de Elon Musk.

As medidas são amplamente vistas como esforços de Zuckerberg para melhorar as relações com o presidente dos EUA, Donald Trump, que criticou as políticas de moderação da Meta no passado.

De acordo com um porta-voz da Meta on X, o CEO visitou a Casa Branca no início deste mês “para discutir como a Meta pode ajudar o governo a defender e promover a liderança tecnológica dos EUA no exterior”.

A Meta está demitindo 21.000 funcionários, quase um quarto de sua força de trabalho, como parte de uma onda de demissões de tecnologia em 2022 e 2023, com grande parte de suas equipes de Integridade Cívica e Confiança e Segurança afetadas.