Nuevo informe de la FRA sobre los desafíos actuales en la moderación del discurso de odio en internet - Observatorio Español del Racismo y la Xenofobia

La Agencia de los Derechos Fundamentales de la Unión Europea (FRA) ha publicado el informe Moderación de contenido en línea: desafíos actuales en la detección del discurso de odio, en el que se recopilan datos referidos al discurso de odio y la incitación a la violencia contra grupos específicos en cuatro plataformas: X (Twitter), Reddit, YouTube y Telegram; en Alemania, Bulgaria, Italia y Suecia.

Entre el 25 de enero y el 25 de julio de 2022 se recopilaron un total de 344.132 publicaciones y comentarios en línea mediante la detección y el filtrado de publicaciones y comentarios que contenían palabras clave específicas, de los cuales se analizó una muestra representativa de 1.573 casos.  De los casos analizados, más de la mitad (53%) fueron considerados contenidos con discurso de odio tras la revisión realizada por un equipo humano. Respecto a las plataformas, destacan las publicaciones procedentes de X, con 53% del total, seguidas de Reddit (17%) y Telegram (9%); mientras que en YouTube sólo se pudieron recopilar un número limitado de comentarios.

Los datos del informe reflejan que la misoginia es la forma más frecuente de odio en las plataformas analizadas, con un total de 234 contenidos identificados. La mayor parte del discurso de odio dirigido a las mujeres se basa en la incitación a la violencia sexual, el acoso y el lenguaje denigrante. En un segundo término, destacan las publicaciones con discurso de odio dirigidas a personas afrodescendientes (93), personas gitanas (38) y personas judías (23); basadas en la difusión de estereotipos negativos. El informe destaca que el 20% de los contenidos presentaba discurso de odio de manera interseccional, haciendo referencia a más de una característica protegida. Atendiendo al contenido de los mensajes predomina el acoso (47%) y en cuanto al lenguaje, destaca el tono ofensivo, seguido de los comentarios denigrantes y la difusión de estereotipos negativos.

Partiendo del análisis de los datos, la FRA realiza una serie de recomendaciones a las plataformas para abordar el discurso de odio en línea. Por una parte, el informe indica que las plataformas deben ofrecer a los usuarios un espacio seguro para todos, prestando especial atención a determinadas características protegidas como el género y el origen étnico. En este sentido, subrayan que las plataformas de muy gran tamaño deberían incluir la misoginia como categoría específica en sus evaluaciones, en virtud de la Ley de Servicios Digitales (DSA).

Por otra parte, la FRA destaca que, tanto a nivel nacional como en el marco europeo, es necesario clarificar qué contenidos se consideran discurso de odio y qué contenidos quedan amparados bajo la libertad de expresión. Asimismo, la FRA cree necesario reforzar la red de comunicadores fiables (trusted flagger), así como proporcionarles la formación adecuada, para potenciar la moderación de las diferentes formas de odio presentes en internet. Por último, se hace hincapié en la revisión de los sistemas automatizados de moderación de contenido, que pueden tener diferentes sesgos, y en garantizar que las evaluaciones por parte de las plataformas, en el marco de la DSA, se complementen con una investigación independiente.

Contranarrativa del discurso de odio en redes sociales

El informe incluye un apartado en el que se aporta una visión general sobre la contranarrativa en las redes sociales analizadas. En el mismo, se menciona que el uso de la contranarrativa es reducido en todas las plataformas, siendo más frecuente en X, con 36 contenidos, seguida de Reddit, con 16, YouTube (7) y Telegram (2). Por otra parte, la FRA subraya que la contranarrativa es más habitual en las publicaciones localizadas en Alemania, donde el uso de discursos que contrarrestan los contenidos de odio duplica al del resto de países. Es preciso tener en cuenta que el total de las publicaciones que emplean este contradiscurso en Bulgaria, Italia y Suecia, es menor al 5% sobre el total de los contenidos de odio.