Vazamento mostra as regras controversas do Facebook para moderar discurso de ódio

A ProPublica divulgou, nesta quarta-feira (28), supostamente usados pelo Facebook para treinar moderadores responsáveis por analisar conteúdo com discurso de ódio. Como o tesouro de slides e quizzes revela, o Facebook usa um raciocínio distorcido e enviesado para equilibrar o policiamento de discurso de ódio com a liberdade de expressão dos usuários na plataforma. Isso talvez seja melhor resumido pela imagem acima, de um dos slides de apresentação, em que o Facebook instrui os moderadores a proteger “Homens Brancos”, mas não “Motoristas Mulheres” ou “Crianças Negras”.

• Você provavelmente não sabe todas as formas como o Facebook te rastreia
• Revelados os polêmicos critérios que o Facebook usa para conteúdo sensível

O Facebook só bloqueia comentários inflamatórios se eles forem usados contra membros de uma “classe protegida”. Mas é o próprio Facebook que decide quem faz parte de uma classe protegida, na melhor das hipóteses com claras oportunidades de a moderação ser aplicada arbitrariamente e, na pior das hipóteses, contra pessoas de minorias criticando aqueles no poder (particularmente homens brancos) — assim como o Facebook já foi. De acordo com os documentos vazados, estes são os identificadores de grupo que o Facebook protege:

Sexo, afiliação religiosa, origem nacional, identidade de gênero, raça, etnia, orientação sexual, deficiência ou doença sérias

E, aqui, o que o Facebook não protege:

Classe social, origem continental, aparência, idade, emprego, ideologia política, religiões, países

Portanto, “Homens brancos são babacas” é inaceitável no Facebook, porque raça e gênero são protegidos. “Cristãos são babacas” também é proibido, porque afiliação religiosa é protegida. “O Cristianismo é para babacas” está liberado, porque as religiões em si podem ser criticadas e nenhum grupo demográfico específico é alvo dos ataques. E “crianças negras são babacas” é também permitido, porque “crianças”, um grupo caracterizado de acordo com a idade, não são protegidas.

Imagem: ProPublica

Subconjuntos

• Categoria Protegida + Categoria Protegida = Categoria Protegida
• Categoria Protegida + Categoria Não Protegida = Categoria Não Protegida

• Mulheres irlandesas = Categoria Protegida
• Adolescentes irlandeses = Categoria Não Protegida

Subconjuntos de grupos — motoristas mulheres, professores judeus, gays liberais — também não são protegidos, conforme a ProPublica explica:

Homens brancos são considerados um grupo porque ambos os traços são protegidos, enquanto motoristas mulheres e crianças negras, como islâmicos radicais, são subconjuntos, porque uma de suas características não é protegida.

Esse raciocínio absurdo de “protegido + não protegido = não protegido” apenas confirma que o Facebook está muito mal preparado para combater discurso de ódio ou sinalizar maior parte dos exemplos de racismo em seu site. A empresa disse que a redação exata de algumas das regras pode ter mudado, mas os slides ainda levantam a questão sobre quem pode pertencer a uma classe protegida e por que. Quando perguntado pelo Gizmodo, o Facebook só apontou para um de terça-feira (27), em que não oferecia informação alguma, apenas um desejo expresso de “refletir a diversidade da experiência humana”. Como os lides vazados recriados pela ProPublica (presumidamente ) revelam, o Facebook lista apenas três cenários em que discurso inflamatório contra subconjuntos não é permitidos: incitação à violência, à exclusão e à segregação. Mas brechas enormes permitem que as pessoas desconsiderem todos os três. Uma “incitação à violência” contra pessoas negras (como em “A polícia deveria matar os bandidos do Black Lives Matter!”) é inaceitável, mas é completamente ok dizer que Mike Brown, morto em Ferguson, Missouri, por um policial branco, . Uma “incitação à exclusão” é inaceitável, mas o grupo está liberado, aparentemente. Uma incitação à segregação é inadmissível, mas parece que grupos como “” e ““, que defendem que o separatismo é o único jeito de as pessoas brancas sobreviverem nos Estados Unidos, estão ambos liberados. O Facebook não precisa respeitar a e também não é obrigado a policiar discurso de ódio. Mas, em sua abordagem atual, a empresa está ignorando sua de “dar às pessoas o poder de construir uma comunidade e aproximar o mundo”. O Facebook sabe muito bem que a comunicação online é apenas o primeiro passo para as pessoas saírem no mundo real e transformar em ação as crenças que as unem. Então, reduzir discurso de ódio a um jogo de semântica, reestruturando ódio e grupos de ódio como “apenas” palavras é desonesto. Equilibrar a liberdade de expressão com o combate ao discurso de ódio para dois bilhões de usuários vai exigir uma abordagem muito mais complexa e robusta. []

Imagem do topo: Facebook via ProPublica