Ferramentas automatizadas usadas pela Meta, controladora do Facebook, para policiar conteúdo potencialmente prejudicial, removeram desnecessariamente dois vídeos relacionados à guerra entre Israel e Hamas, disse o Meta Oversight Board em um comunicado na terça-feira. A tecnologia de moderação poderia impedir que os usuários visualizassem conteúdo relacionado ao sofrimento humano em ambos os lados do conflito, afirma o relatório.

Os comentários, resultado da primeira “revisão rápida” do conselho de supervisão, destacam o intenso escrutínio que as empresas de redes sociais enfrentam no tratamento de conteúdos relacionados com conflitos.

O conselho anulou a decisão inicial do Meta de remover dois conteúdos. Como parte da sua decisão, o grupo instou a Meta a respeitar os direitos dos utilizadores à “liberdade de expressão… e à sua capacidade de comunicar durante esta crise”.

“O comité está focado em proteger os direitos de liberdade de expressão das pessoas de todos os lados sobre estes acontecimentos horríveis, garantindo ao mesmo tempo que nenhum testemunho incita à violência ou ao ódio”, disse o co-presidente do comité, Michael McConnell, num comunicado. declaração. "Esses testemunhos são importantes não apenas para palestrantes, mas também para usuários de todo o mundo que buscam informações oportunas e diversas sobre eventos inovadores."

Em resposta à decisão do conselho, Meta disse que, uma vez que ambos os itens foram restabelecidos antes da decisão do conselho, nenhuma ação adicional seria tomada. “Expressão e segurança são importantes para nós e para as pessoas que utilizam nossos serviços”, disse a empresa em um blog.

Em 2 de fevereiro de 2023, um segurança estava próximo a uma placa na sede da Meta em Menlo Park, Califórnia. A empresa controladora do Facebook, Meta, relatou lucros melhores do que o esperado no quarto trimestre, com receita de US$ 32,17 bilhões.

O conselho de supervisão da Meta avaliará a forma como a empresa lida com o conteúdo da guerra Israel-Hamas

O Conselho de Supervisão da Meta é uma entidade composta por especialistas em áreas como liberdade de expressão e direitos humanos. É frequentemente descrito como o Supremo Tribunal da Meta porque permite aos usuários recorrer de decisões de conteúdo na plataforma da empresa. O conselho aconselha a empresa sobre como lidar com certas decisões de moderação de conteúdo, bem como recomendações políticas mais amplas.

O comité disse no início deste mês que decidiu rever o caso mais rapidamente porque as decisões sobre o conteúdo relacionado com a guerra poderiam ter “consequências urgentes no mundo real”. O comitê disse que o número médio diário de reclamações de usuários sobre decisões de conteúdo “relevantes para a região do Oriente Médio e Norte da África” quase triplicou nas semanas após o início do conflito entre Israel e o Hamas.

Meta disse à CNN em outubro que havia estabelecido "um centro de operações especiais composto por especialistas, incluindo aqueles fluentes em hebraico e árabe, para monitorar de perto e responder a esta situação regional em rápida evolução e está em coordenação com verificadores de fatos terceirizados".

O conselho de supervisão disse na terça-feira que após o início do conflito, Meta tomou medidas provisórias para lidar com conteúdo potencialmente perigoso, incluindo a redução do limite para remoção automática de conteúdo que possa violar seu discurso de ódio, violência e incitação, e políticas de intimidação e assédio.

“Em outras palavras, a Meta está usando suas ferramentas automatizadas de forma mais agressiva para remover conteúdo potencialmente banido”, disse o conselho, acrescentando que a empresa tomou essas medidas para priorizar a segurança, mas que a mudança também “aumenta a probabilidade de que a Meta remova por engano não-não-não-conteúdo”. Até 11 de dezembro, a Meta não havia retornado os limites de moderação de conteúdo de seus sistemas automatizados aos níveis normais, disse o conselho.

A análise do comitê analisou duas partes: um vídeo postado no Instagram que parecia mostrar as consequências do ataque fora do hospital Al-Shifa, na cidade de Gaza, e outro vídeo postado no Facebook que mostrava dois reféns sendo sequestrados por militantes do Hamas.

O primeiro vídeo parecia mostrar “pessoas, incluindo crianças feridas ou mortas, deitadas no chão e/ou chorando”. O comitê disse que as legendas em árabe e inglês abaixo do vídeo se referiam às forças israelenses e disse que o hospital havia se tornado “alvo de uma ‘ocupação usurpada'”.

Os sistemas automatizados da Meta removeram inicialmente a postagem porque ela violava as regras sobre conteúdo gráfico e violento. Um usuário recorreu da decisão, pedindo a reintegração do vídeo, mas os sistemas da Meta negaram automaticamente o pedido após determinar com “alto grau de confiança” que o conteúdo violava suas regras. Depois que o conselho decidiu aceitar o caso, Meta publicou o vídeo e emitiu um alerta sobre seu conteúdo perturbador; o aviso também impediu que menores de idade assistissem ao vídeo e o recomendassem a usuários adultos.

O conselho de supervisão disse na terça-feira que o vídeo nunca deveria ter sido removido e criticou a decisão da Meta de restringir sua circulação, dizendo que era “inconsistente com a responsabilidade da empresa de respeitar a liberdade de expressão”.

Um segundo vídeo analisado pelo comitê mostrava uma mulher e um homem em uma motocicleta sendo levados por militantes do Hamas, com uma legenda pedindo às pessoas que assistissem para obter “uma compreensão mais profunda” do ataque de 7 de outubro a Israel.

A Meta inicialmente removeu a postagem porque violava sua política sobre organizações e indivíduos perigosos, que proíbe a publicação de imagens de ataques terroristas contra vítimas aparentes, mesmo que compartilhadas para aumentar a conscientização sobre tais ataques. (Meta designa o Hamas como uma organização perigosa sob as suas políticas e rotulou o ataque de 7 de Outubro como um ataque terrorista.)

Depois que o conselho assumiu o caso, a empresa restabeleceu o vídeo com uma tela de alerta como parte de um esforço maior para permitir isenções limitadas de sua política de organizações e indivíduos perigosos quando o conteúdo se destina a condenar, aumentar a conscientização ou denunciar sequestros. , ou pedir a libertação de reféns. Tal como acontece com outros vídeos, a tela de aviso limita a visibilidade dos vídeos a menores e evita que sejam recomendados a outros usuários do Facebook.

Tal como aconteceu com o primeiro vídeo, o conselho disse que o conteúdo não deveria ser removido, dizendo que impedir a recomendação do vídeo colocaria a Meta em violação das suas responsabilidades em matéria de direitos humanos.

A Meta disse na terça-feira que não mudaria os limites recomendados para dois vídeos revisados ​​pelo conselho porque o conselho discordava dos limites, mas não fez recomendações formais sobre o que fazer com os vídeos.

“O Comité considera que excluir das recomendações conteúdos que aumentem a sensibilização para potenciais violações dos direitos humanos, conflitos ou atos de terrorismo não é uma restrição necessária ou apropriada à liberdade de expressão, dado o elevado nível de preocupação pública sobre tais conteúdos”, afirmou na sua decisão.