Como a nova política do YouTube não resolve o problema do discurso de ódio

Em junho, o YouTube anunciou uma mudança em todo seu site para impedir a divulgação de discurso de ódio em muitos de seus vídeos. A promessa era de tolerância zero com publicações que promovessem o nazismo, a supremacia branca ou qualquer outro conteúdo que alegasse "que um grupo é superior para justificar discriminação, segregação ou exclusão."

Na época, reportagem do jornal The New York Times informou que a empresa se comprometia em remover milhares de vídeos que se encaixassem nessa definição. Mas, mais de seis semanas depois, continua sendo fácil encontrar canais associados a grupos de ódio na plataforma.

O site Gizmodo monitora desde o início do ano uma lista de 226 canais extremistas. Desde 5 de junho, quando a nova política passou a vigorar, apenas 31 canais dessa lista foram encerrados - e oito foram banidos ou saíram do ar antes da data.

Ao Gizmodo, o Google afirmou que quase 60% dos canais listados pela reportagem continha pelo menos um vídeo removido - num total de três mil vídeos individuais excluídos. A empresa também enfatizou que está aumentando a fiscalização.

Mas para entender por que esses canais continuam a funcionar, é importante saber que a plataforma geralmente não considera o comportamento externo de um grupo ou indivíduo por trás de uma conta, apenas de um vídeo específico.

Heidi Beirich, que dirige o Projeto de Inteligência do Southern Poverty Law Center, afirma que a abordagem do YouTube o coloca bem atrás de colegas como o Facebook, que tem uma visão mais dura para o uso da rede social por grupos de ódio e seus líderes.

Essa abordagem traz decisões confusas. O YouTube recentemente proibiu o canal "Fash The Nation", um podcast da rede nacionalista The Right Stuff, mas não baniu o canal da rede. Da mesma forma, o Buzzfeed relata que o canal do nacionalista étnico austríaco Martin Sellner (que está sendo investigado por possíveis conexões com o atirador de Christchurch) teve seu canal do YouTube desmonetizado, mas seus vídeos ainda estão acessíveis no site, assim como pelo menos outros sete canais do grupo Identidade de Geração, do qual ele é organizador.

Enquanto isso, o canal de Scott Allsop, um professor de história da Romênia, foi brevemente banido por hospedar vídeos de propaganda nazistas de arquivos como recurso educacional.

"Em geral, nosso sentimento é que o YouTube precisa levar a sério a remoção de materiais radicais, dado o impacto que esses vídeos podem ter sobre os homens jovens e brancos", diz Beirich.

Política de desmonetização

Muitas vezes, os canais banidos acabam voltando à plataforma meses depois com marcadores diferentes. David Duke, rosto mais conhecido do grupo racista Ku Klux Klan (KKK), tem permissão para manter um canal com conteúdo como "Israel: Terra Prometida para o Crime Organizado" porque ele tem, em paralelo, conteúdo que não é primariamente discurso de ódio, como um vídeo recente intitulado "Dr Duke: sono ruim encolhe seus músculos e testículos".

Becca Lewis, uma pesquisadora do Data & Society, afirma que o modelo de negócios do YouTube não ajuda nesse processo. "Infelizmente, o fanatismo pode atrair grandes audiências, então os criadores têm um incentivo para criar conteúdo intolerante e, portanto, financeiramente lucrativo", disse ela.

Ainda que o YouTube desmonetiza muitos desses canais, ela acredita que os criadores desse tipo de conteúdo continuam com popularidade. "[Eles] continuam a monetizar seu conteúdo por outros meios", observa.

Além disso, a desmonetização como política de moderação é um processo automatizado e pode inevitavelmente atingir conteúdos que impactam comunidades e grupos minoritários, como os canais voltados ao público LGBT. O sistema automatizado da plataforma sinaliza que canais que usam tags como "gay" ou "lésbica" seja desmonetizado por entender o conteúdo como pornográfico.

Fique por dentro de comportamento e cultura seguindo o TAB no Instagram e tenha conteúdos extras sobre inovação, tecnologia e estilo de vida.