Las reglas de Facebook filtradas revelan por qué no protegerán a los niños negros del discurso del odio

Sidney Fussell 10/13/2017. 19 comments
Facebook Hate Speech Freedom Of Speech

El miércoles, ProPublica publicó docenas de sorprendentes documentos de entrenamiento que según informes fueron utilizados por Facebook para capacitar a los moderadores en el discurso de odio. Como revela el hallazgo de diapositivas y cuestionarios, Facebook utiliza un razonamiento deformado y unilateral para equilibrar el discurso de odio de la policía contra la libertad de expresión de los usuarios en la plataforma. Esto es quizás mejor resumido por la imagen anterior de uno de sus presentaciones de entrenamiento, en las que Facebook instruye a los moderadores a proteger a "Hombres Blancos", pero no "Mujeres Conductores" o "Niños Negros".

Facebook sólo bloquea comentarios inflamatorios si se usan contra miembros de una "clase protegida". Pero el propio Facebook decide quién compone una clase protegida, con muchas oportunidades claras de moderación para ser aplicadas arbitrariamente en el mejor de los casos y contra personas minoritarias que critican a los que están en (en particular los blancos) en el peor de los casos -como Facebook ha rutinariamente acusado de.

Según los documentos filtrados, aquí están los identificadores de grupo que Facebook protege:

Sexo, Afiliación religiosa, Origen nacional, Identidad de género, Raza, Etnicidad, Orientación sexual, Discapacidad o enfermedad grave

Y aquí están los que Facebook no protege:

Clase social, origen continental, apariencia, edad, ocupación, ideología política, religiones, países

Así que "Los hombres blancos son idiotas" es inaceptable en Facebook porque la raza y el género están protegidos. "Los cristianos son idiotas" es verboten porque la afiliación religiosa está protegida. "El cristianismo es para los imbéciles" está bien porque las religiones mismas pueden ser criticadas y no se apunta ningún grupo demográfico específico. Y "Los niños negros son idiotas" se permite porque "los niños", un grupo clasificado por edad, no están protegidos.

Los subgrupos de grupos -capitadores, profesores judíos, liberales gays- tampoco están protegidos, como explica ProPublica:

Los hombres blancos son considerados un grupo porque ambos rasgos están protegidos, mientras que las mujeres conductoras y los niños negros, como los musulmanes radicalizados, son subconjuntos, porque una de sus características no está protegida.

Este absurdo argumento "protegido + no protegido = no protegido" sólo confirma que Facebook está terriblemente mal equipado para combatir el discurso de odio o para señalar la mayoría de los casos de racismo en su sitio. La compañía dijo que la redacción exacta de algunas de las reglas puede haber cambiado, pero las diapositivas todavía plantean la cuestión de quién llega a pertenecer a una clase protegida y por qué. Cuando se lo preguntó Gizmodo, Facebook sólo señalaría un blog del martes sobre el discurso de odio, que no proporciona una visión, ofreciendo un matiz azul pacífico y un deseo declarado de "reflejar la diversidad de la experiencia humana".

Según revelan las diapositivas filtradas por ProPublica (presumiblemente fuera de precaución ), Facebook sólo enumera tres escenarios en los que no se permite el discurso inflamatorio contra subconjuntos: llamadas a la violencia, llamadas a la exclusión y llamadas a la segregación. Pero enormes lagunas permiten que la gente no tenga en cuenta los tres.

Un "llamado a la violencia" contra los negros (como "¡La policía debería matar matones de Black Lives Matter!") Es inaceptable, pero está bien decir que Mike Brown, muerto a tiros en Ferguson, Missouri, por un policía blanco, merecía morir

Un "llamado a la exclusión" es inaceptable, pero el grupo Arreglar y Deportar a todos los extranjeros ilegales en los EE.UU. es cool, al parecer.

Un llamamiento a la segregación es inadmisible, pero parece que grupos como "White Genocide Watch" y "White Genocide or Diversity", que argumentan que el separatismo es la única forma en que los blancos pueden sobrevivir en América, están bien. Totalmente bien.

Facebook no está obligado por la Primera Enmienda ni legalmente obligado a la policía odio discurso. Pero, en su enfoque actual, la compañía está haciendo caso omiso de su declaración de misión ostensible para "dar a la gente el poder de construir comunidad y acercar al mundo". Facebook sabe muy bien que la comunicación en línea es sólo el primer paso para que la gente se vaya el mundo real y actuar las creencias que los unen. Así que reducir el discurso de odio a un juego de semántica prep de LSAT que refracta el odio y los grupos de odio como palabras "justas" es deshonesto. En última instancia, equilibrar la libertad de expresión con la lucha contra el discurso de odio para 2 mil millones de usuarios requerirá un enfoque mucho más robusto y complejo.

[ Pro Publica ]

19 Comments

Moshe Wisenheimer
raincoaster
smcallah
faithful-dushness
Rzmmdx Leetuber
Davis Andrews
Darmok eats Challah at 12Nagra
vinylrake

Other Sidney Fussell's posts

Language