Como uma cidade nos EUA quer monitorar a fala para inibir a violência

Desde novembro de 2019, as autoridades de Chattanooga, no Tennessee (EUA), monitoram a fala para detectar palavras de ódio em tempo real. A medida tem o propósito de impedir atos violentos antes que aconteçam, e evitar crimes.

Em um banco de dados chamado de Hatebase (base do ódio, em tradução livre), cidadãos podem registrar palavras proferidas por outros com teor ameaçador, ofensivo e perigoso, para auxiliar investigações em lugares que possam se tornar alvos de ataques.

Relacionadas

Os desafios e propostas para enfrentar a intolerância em um Brasil dividido

Twitter x Mastodon: mudar de rede social resolve discurso de ódio?

'Era só o que me faltava, fugir do Taleban e não poder escapar de um vírus'

A base de dados é feita por uma empresa canadense chamada Hatebase, que atua em 200 países e registra termos ofensivos em 97 línguas e é parte do Projeto Sentinela. A cidade com aproximadamente 180 mil habitantes é a primeira do país a usar o recurso tecnológico.

Qualquer pessoa da região de Chattanooga que foi alvo de palavras racistas e discriminatórias deverá registrá-las em um formulário online, acessado por um link no site da prefeitura. Quem presenciou a situação também é incentivado a fazer a denúncia. No formulário, o habitante da cidade preenche os termos usados, como eles podem ser entendidos pelo ouvinte, onde foram ditos, a quem estavam direcionados e a língua falada. As informações são enviadas de forma anônima. A denúncia será armazenada no Hatebase.

Por dia, a automação dessa tecnologia de armazenamento examina de mil a dez mil pontos de dados, dos quais algumas centenas se enquadram na classificação de discursos de ódio. Considerando o grande tráfego de internet, os EUA são o país com maior registro de termos ofensivos.

Histórico de discriminação

Essa nova maneira de detectar discursos intolerantes procura inibir a violência que já afetou a comunidade local anteriormente. Em 26 de julho de 2015, a cidade foi palco de sete assassinatos provocados por um muçulmano radical, Muhammad Youssef Abdulazeez, 24, em duas bases militares dos EUA. Atualmente, devido ao tenebroso episódio, os residentes muçulmanos locais temem reações de vingança.

Para a prefeitura, o desafio hoje é construir uma comunidade mais segura e acolhedora. Para isso, a linguagem abusiva terá uma avaliação que apontará a relação entre o discurso de ódio e os seus crimes contra grupos específicos. Esse tipo de iniciativa é utilizado com sucesso em países que monitoram a linguagem em conflitos étnicos armados, como Uganda, Kenya, Iraque e Burma.

A parceria de Chattanooga com o Hatebase, até o momento, não resultou em nenhuma ação penal ou investigação. "O estágio do monitoramento ainda está em um nível muito inicial, por isso, não tenho nenhum caso específico de consequências que podem acontecer", informa Kerry Hayes, chefe de equipe do escritório da prefeitura de Chattanooga.

A "base do ódio", por sua vez, não acompanha os resultados dos casos que procuram reduzir a violência pelo monitoramento das palavras cruéis. "Atuamos apenas com dados incorporados, sem análises individuais de riscos. Neutralizar a violência originada de um discurso de ódio, no mundo real, exige um entendimento amplo de tendências de dados", afirma Timothy Quinn, diretor do Hatebase.Pela perspectiva da empresa, ainda que uma pessoa registre um termo ofensivo que não tenha sido dito por ninguém, o dado é qualificado como válido porque existe alguém informando um termo de ódio.

Felipe Fontes, ativista social e fundador do Nearbee, empresa de tecnologia para proteção à vida, afirma que a iniciativa "é eficaz para a coleta de dados, porém é mais branda do que um formato onde o discurso de ódio seria criminalizado. No momento em que é criminalizado, não só a estatística, mas também um processo legal contra o indivíduo seriam promovidos, o que pode depender da liberdade de expressão contra as palavras ofensivas e até onde isso vira crime".

O ativista ainda alerta para o risco de que as estatísticas de palavras de ódio originadas através de um formulário e a sua divulgação pública, disponibilizada pela prefeitura, possam causar um efeito colateral. Qualquer um, bem intencionado ou não, que quiser buscar o lugar onde o discurso de ódio é proferido, poderá encontrar.