Imagem capturada do mapa de atividades recentes de discurso de ódio da Hatebase, baseado em um sistema colaborativo de uploads.

É possível prever um genocídio? O que vem primeiro – antes do pior?

De acordo com um artigo [en] publicado pelo Genocide Watch [en], é um processo de muitas etapas, que precisam ser identificadas e atendidas respectivamente. Uma classificação baseada na linguagem é um dos passos necessários.

Imagem de gráfico que mostra os termos mais enviados à Hatebase por idioma.

A Hatebase [en] é uma rede colaborativa sobre discurso de ódio, criada em torno da ideia da identificação e prevenção. Através da rede, as pessoas podem enviar relatórios sobre discursos de ódio, indicando o lugar do mundo onde o caso aconteceu e os termos que foram usados. Timothy Quinn, o fundador, disse em uma entrevista por e-mail que “a chave para entender a hatebase é olhar pra ela como uma camada de dados — como um tráfego sobre o mapa de uma cidade.”

A rede foi construída para atender a agências governamentais, ONGs, organizações investigativas e outras entidades, para identificar discursos de ódio predominantes como um indicador da violência regional.

A rede pede aos usuários que contribuam com “sightings” de acordo com a localização e idioma, etiquetados por etnia, nacionalidade, gênero, orientação sexual, entre outros tópicos. Atualmente o sistema possui mais de 60 mil relatórios de discuso de ódio, sabendo o tempo e o local onde aconteceram.

Imagem da Hatebase mostrando os principais tipos de discurso de ódio

Para permitir que outras organizações acessem a rede e usem as informações para outros fins, os desenvolvedores passaram um bom construindo uma API aberta. Quinn comenta:

Our interest is in having NGOs like us integrate it with their own data to help them make informed decisions about where to devote human, material and financial resources… Our hope is that more people will eventually be using the API to understand our dataset than the website.

Nosso interesse é que as organizações não-governamentais como a nossa integrem esta ferramenta com seus próprios dados para ajudá-los a tomar decisões acertadas sobre onde investir recursos humanos, materiais e financeiros… Nossa esperança é que mais pessoas usarão a API, mais que o nosso site, para entender nossa base de dados.

Definindo termos

Mas o que é exatamente um discurso de ódio? Segundo o site [en]:

Hate speech is difficult to quantify, but most people would agree with Justice Potter Stewart's famous sentiment: “I know it when I see it.” Hatebase defines hate speech as any term which broadly categorizes a specific group of people based on malignant, qualitative and/or subjective attributes — particularly if those attributes pertain to ethnicity, nationality, religion, sexuality, disability or class.

Discurso de ódio é difícil de definir, mas a maioria das pessoas concordaria com a famosa frase do juiz Potter Stewart: “Eu o conheço quando vejo.” A Hatebase define discurso de ódio como qualquer termo que caracteriza amplamente a um grupo específico de pessoas baseado em atributos maldosos, qualitativos e/ou subjetivos, especialmente se esses atributos se referem a etnia, nacionalidade, religião, sexualidade, deficiência ou classe.

A Hatebase sugere aos seus colaboradores que pensem sobre as seguintes questões antes de adicionarem termos ao sistema:

1. Does it refer to a specific group of people or is it a generalized insult? If the latter, it's probably not hate speech.

2. Can it potentially be used with malicious intent? If not, it's probably not hate speech.

3. Are there objective third-party sources online which can be used as citations? If not, it's probably not hate speech.

4. If you were to write a program which monitors hate speech on Twitter, would finding it in a random tweet be potentially meaningful? If not, it's probably not hate speech.

1. Se refere a um grupo específico ou é um insulto generalizado? No segundo caso, talvez não seja realmente um discurso de ódio.

2. Pode ser usado para fins maldosos? Se não, não deve ser discurso de ódio.

3. Há fontes objetivas online, da parte de terceiros, que possam ser citadas? Se não, talvez não seja discurso de ódio.

4. Se você criasse um programa que monitorasse discursos de ódio no Twitter, encontrar algo sobre isso seria significativo? Se não, talvez não seja discurso de ódio.

Para mais informações, leia sobre o trabalho da Hatebase no The Sentinel Project [en] e siga-os no twitter @hatebase_org.