News

As empresas de mídia social dizem que proíbem a negação do Holocausto. Eles também estão bloqueando a educação?

Compartilhar

As empresas de mídia social dizem que proíbem a negação do Holocausto. Mas essa proibição também está bloqueando a educação sobre o Holocausto?

Em outubro, um dia depois que o Facebook anunciou que baniria a negação do Holocausto, Izabella Tabarovsky recebeu uma mensagem inesperada da plataforma.

Uma postagem dela em 2019 promovendo um artigo que ela havia escrito sobre a lembrança do Holocausto estava sendo removida por violar os “Padrões da comunidade sobre discurso de ódio” do Facebook. Nenhuma informação adicional foi fornecida e Tabarovsky não se lembra de ter recebido uma forma de apelar da decisão.

Ela procurou um porta-voz do Facebook que encontrou no Twitter, mas não obteve resposta.

A decisão do Facebook de proibir a negação do Holocausto veio somente depois que acadêmicos, ativistas e celebridades denunciaram a plataforma por permitir discurso de ódio. Mas Tabarovsky não nega o Holocausto. Ela é uma jornalista judia que escreve sobre os judeus soviéticos, incluindo o Holocausto nos territórios soviéticos.

O artigo em questão se chamava “A maioria dos judeus não foi assassinada em campos de extermínio. É hora de falar sobre o outro holocausto. ” Era sobre como os esforços para lembrar o Holocausto não se concentram o suficiente nos milhões de judeus que foram mortos fora dos campos de concentração, como os próprios parentes de Tabarovsky, que foram assassinados em Babyn Yar.

É possível que a manchete tropeçasse em um algoritmo destinado a detectar a negação do Holocausto, que então bloqueou a postagem de Tabarovsky. Ela não sabe, pois nunca ouviu falar no Facebook.

“Esta mensagem apareceu e, obviamente, a primeira reação foi: o que eu disse que era odioso?” Tabarovsky disse à Agência Telegráfica Judaica . “Temos visto tanto discurso anti-semita. Eles não podem batalhar, não podem derrubá-lo e, no entanto, removem postagens educacionais sobre o Holocausto de 2019. É realmente incrível. ”

Tabarovsky está entre a longa lista de usuários de mídia social cujas postagens anti-ódio foram erroneamente vítimas dos algoritmos que visam remover o discurso de ódio. Empresas como Facebook, Twitter e TikTok dizem que intensificaram sua luta contra postagens abusivas e desinformação. Mas a inteligência artificial que impulsiona esses sistemas, com a intenção de erradicar o racismo ou apelos ao genocídio, pode, em vez disso, enredar os esforços para combatê-los.

Organizações que se concentram na educação sobre o Holocausto dizem que o problema é especialmente grave para elas porque surge em um momento em que grandes porcentagens de jovens desconhecem os fatos básicos sobre o Holocausto, e mais online do que nunca.

Michelle Stein, a oficial de comunicações do Memorial do Holocausto e do Museu dos Estados Unidos, disse ao JTA que os anúncios do museu no Facebook costumam ser rejeitados de imediato – com frequência suficiente “que é um problema real para nós”.

“Com muita frequência, nosso conteúdo educacional está literalmente atingindo uma parede de tijolos”, disse ela. “Não está certo que um anúncio que apresenta uma imagem histórica de crianças da década de 1930 vestindo a estrela amarela seja rejeitado, especialmente em um momento em que precisamos educar o público sobre o que aquele distintivo amarelo representou durante o Holocausto.”

A postagem com a estrela amarela é apenas um exemplo de anúncio que foi bloqueado, disse Stein. Os judeus que mais tarde foram aniquilados foram forçados pelos nazistas a afixar as estrelas em suas roupas. Recentemente, a estrela amarela foi apropriada por manifestantes de tudo, desde vacinas até Brexit – o que pode ter tornado o Facebook especialmente sensível à imagem da estrela. O anúncio do museu do Holocausto tinha como objetivo responder a incidentes como esses, educando as pessoas sobre o que a estrela realmente significava.

Outras instâncias de educação sobre o Holocausto também foram bloqueadas. Em março, o Facebook desativou a conta do Centro Norueguês para Estudos do Holocausto e Minorias por cinco dias, bem como as contas de 12 de seus funcionários. Quando as contas foram restauradas, um porta-voz local do Facebook disse a uma publicação norueguesa: “Não posso dizer se isso é um erro técnico ou humano”.

Em 2018, o Anne Frank Center for Mutual Respect, uma organização educacional do Holocausto em Nova York, teve uma postagem removida do Facebook que incluía uma foto de crianças judias emaciadas. Redfish, uma agência afiliada ao estado russo, disse que tinha três mensagens de relembrança do Holocausto, incluindo uma com uma foto famosa de Elie Weisel e outros em um quartel de campo de concentração, retiradas do Facebook este ano.

Os educadores do Holocausto não são os únicos a protestar contra a forma como os algoritmos de mídia social regulam o conteúdo supostamente odioso. Ativistas anti-racistas reclamaram de suas postagens no Facebook serem tratadas como discurso de ódio, o que levou a plataforma a mudar seu algoritmo. Criadores judeus no TikTok dizem que foram banidos após postar conteúdo judaico inquestionável. Durante o recente conflito em Israel e Gaza, ativistas pró-Israel e pró-palestinos disseram que suas postagens foram escondidas ou retiradas do Instagram e de outros lugares.

O Facebook (dono do Instagram) e a TikTok disseram à JTA que os usuários cujas postagens foram retiradas podem apelar da decisão. O Twitter não respondeu às perguntas enviadas por e-mail.

Mas Stein disse que o motivo pelo qual os anúncios são bloqueados é obscuro, e o processo de apelação às vezes pode levar dias. Quando os anúncios são aprovados, ela disse, o momento de ensino que eles deveriam abordar já passou. O museu entrou em contato com o Facebook para resolver o problema, sem sucesso.

“Não está claro para nós qual parte do post é o problema, então somos forçados a adivinhar. Mas, muito mais importante, isso nos impede de transmitir essa mensagem em tempo hábil ”, disse ela. “O grande potencial da mídia social não é a educação ancorada em uma sala de aula, são os momentos educacionais ancorados no que está acontecendo no ambiente, então quando você tem que parar, é uma verdadeira perda.”

Um porta-voz do Facebook disse à JTA que ela usa “uma combinação de revisão humana e automatizada” para detectar discurso de ódio, e que as pessoas irão “normalmente” revisar as decisões automatizadas. O Facebook define a negação do Holocausto para incluir postagens que contestam “o fato de que aconteceu, o número de vítimas, os métodos e a intencionalidade disso”.

“Não dependemos exclusivamente de palavras ou linguagem específica para distinguir entre a negação do Holocausto e o conteúdo educacional”, disse o porta-voz à JTA . “Também temos equipes de escalonamento que podem passar mais tempo com o conteúdo e obter contexto adicional para tomarmos uma decisão mais informada.”

A TikTok também disse à JTA que moderadores humanos revisam o conteúdo sinalizado por seu sistema de inteligência artificial e que ensina seus moderadores a distinguir entre discurso de ódio e o que define como “contra-fala”. Nem o Facebook nem o Twitter forneceram mais detalhes sobre quando e como as postagens mudam de IA para moderadores humanos, ou como esses moderadores humanos são treinados.

“Não sabemos quando eles estão usando ferramentas automatizadas, quem está decidindo o que é anti-semitismo, quem está decidindo o que é anti-racismo negro”, disse Daniel Kelley, diretor associado do Centro de Tecnologia e Sociedade da Liga Anti-Difamação.

A ADL foi uma das organizadoras de um boicote publicitário de alto nível ao Facebook no ano passado para protestar contra o que dizia serem políticas de discurso de ódio relaxadas. No final do ano, o Facebook anunciou que baniria a negação do Holocausto e reprimiria outras formas de ódio.

“Esses conjuntos de dados treinados são baseados na experiência das pessoas das comunidades afetadas?” Kelley perguntou. “Isso informa como os sistemas automatizados estão sendo criados?”

Tanto o Facebook quanto a TikTok disseram estar comprometidos em manter o anti-semitismo fora de suas plataformas, e a TikTok disse que trabalha com a ADL e também com o Congresso Judaico Mundial para moldar a moderação do discurso de ódio anti-semita. O WJC também trabalha com o Facebook.

“É muito mais difícil lidar com coisas como tom ou contexto, e é aí que o aprendizado de IA é fundamental, e esse é o espaço para aprender, mas nunca será perfeito”, disse Yfat Barak-Cheney, diretor internacional do WJC romances. “Problemas como nudez, em que é fácil para as máquinas detectá-la – 98 ou 99% dela é removida automaticamente, antes de chegar à plataforma. Problemas como discurso de ódio, em que coisas como tom e conteúdo têm um papel maior, as máquinas não são capazes de remover tanto dele. ”

Barak-Cheney disse que sua organização hesita em pressionar plataformas que exagerem na moderação de tópicos como a negação do Holocausto porque é mais importante para eles que o Facebook e outros sites tenham uma postura firme contra o discurso de ódio. Antes de o WJC embarcar em sua campanha anual de lembrança do Holocausto nas redes sociais, chamada #WeRemember, ele enviará postagens às plataformas de mídia social para pré-aprovação, a fim de garantir que não sejam bloqueadas quando forem publicadas.

“Há melhorias a serem feitas, mas pressionarmos para dizer, ‘Ei, você deve permitir mais conteúdo’ vai ser contrário a pedirmos a eles que garantam que nenhum conteúdo violador permaneça e seja prejudicial”, disse ela.

Pawel Sawicki, porta-voz do Museu Estadual de Auschwitz-Birkenau, disse que se os postos educacionais forem proibidos, é pelo menos um sinal de que as plataformas estão levando o assunto a sério. Sawicki disse que o museu não teve suas postagens bloqueadas e que ainda está preocupado com a possibilidade de a negação do Holocausto se espalhar nas redes sociais, apesar das políticas das plataformas.

“Isso mostra que algum processo de remoção de fala está acontecendo nas mídias sociais se esse conteúdo desaparecer”, disse ele. “As coisas estão mudando e esperamos que seja uma mudança real em sua abordagem ao discurso de ódio de forma mais universal.”

Tabarovsky também apóia as empresas de mídia social que tomam medidas robustas contra a negação do Holocausto e discurso de ódio. Mas ela gostaria de entender por que sua postagem foi bloqueada e, idealmente, encontrar uma maneira de evitar que suas postagens sejam removidas. Na semana passada, depois que o JTA perguntou sobre a postagem e mais de seis meses após ela ter sido removida, o Facebook o restaurou na plataforma.

“É uma loucura quando você está lidando com um robô que não consegue diferenciar a negação do Holocausto da educação sobre o Holocausto”, disse Tabarovsky. “Como chegamos a esse ponto, como humanidade, em que terceirizamos essas decisões importantes para robôs? É apenas uma loucura. ”

Fonte: https://www.israelnationalnews.com


Ver também:


O ensino de alta qualidade já está ao alcance de todos e em qualquer lugar. Educação de Ensino em Casa, Jardins de Infância e Escolas, com cursos educacionais pré-escolar, ensino básico, fundamental e médio!

Gratuitamente, clique e comece já!

Print Friendly, PDF & Email

Compartilhar

Joice Maria Ferreira

Colunista associado para o Brasil em Duna Press Jornal e Magazine, reportando os assuntos e informações sobre as atualidades sócio-políticas e econômicas da região.
Botão Voltar ao topo