A Meta disse hoje em um blog que está expandindo e atualizando seus recursos de segurança infantil projetados para proteger as crianças, o mais recente desenvolvimento em meio a crescentes relatórios sobre como sua plataforma recomenda conteúdo sexual infantil.
Durante meses, o Wall Street Journal detalhou como o Instagram e o Facebook veicularam aos usuários conteúdo impróprio e sexual relacionado a crianças. Em junho, um relatório detalhou como o Instagram conectou uma rede de contas que traficavam material de abuso sexual infantil (CSAM) e direcionou essas contas entre si por meio de seu algoritmo de recomendação. Uma investigação de acompanhamento publicada hoje revelou como o problema se estendia aos grupos do Facebook, onde existia um ecossistema de contas e grupos de pedófilos, alguns com até 800 mil membros.
Em ambos os casos, o sistema de recomendação do Meta permitiu que contas abusivas se encontrassem por meio de recursos como “Grupos de Você Pode Estar Interessado” do Facebook ou tags de preenchimento automático no Instagram. Meta disse hoje que limitará o modo como contas adultas “suspeitas” podem interagir entre si: no Instagram, essas contas não poderão seguir umas às outras, não serão recomendadas e seus comentários não serão visíveis para outras contas “suspeitas”.
A Meta também disse que expandiu sua lista de termos, frases e emojis relacionados à segurança infantil e começou a usar aprendizado de máquina para detectar conexões entre diferentes termos de pesquisa.
Enquanto os reguladores dos EUA e da UE pressionam a Meta sobre como garantir a segurança das crianças na plataforma, a Meta também divulgou o relatório acima e fez os ajustes correspondentes na segurança infantil. O CEO da Meta, Mark Zuckerberg, se juntará a vários outros grandes executivos de tecnologia para testemunhar perante o Senado em janeiro de 2024 sobre a exploração infantil online. Em novembro, os reguladores da UE deram ao Meta um prazo (que expira hoje) para fornecer informações sobre como protege os menores; hoje eles emitiram novas solicitações ao Meta, especificamente chamando “material autogerado de abuso sexual infantil (SG-CSAM) circulando no Instagram” e o sistema de recomendação da plataforma.
No final de novembro, as empresas de aplicativos de namoro Bumble and Match suspenderam a publicidade no Instagram após uma reportagem do Wall Street Journal. Anúncios de ambas as empresas apareceram ao lado de vídeos do Reels com conteúdo explícito e agressões sexuais a crianças.