El Sistema FARO: clave contra el discurso de odio racista y xenófobo en redes sociales - Observatorio Español del Racismo y la Xenofobia

El Ministerio de Inclusión, Seguridad Social y Migraciones, con el Observatorio Español de Racismo y Xenofobia (OBERAXE) y LALIGA lanzaron el pasado 11 de marzo el Sistema FARO (Filtrado y Análisis de Odio en las Redes Sociales), una innovadora metodología de monitorización diseñada para la identificación y el análisis a tiempo real de los contenidos de discurso de odio con motivaciones racistas, xenófobas, islamófobas, antisemitas y antigitanas en las principales redes sociales: Facebook, Instagram, TikTok, YouTube y X (antes Twitter). Esta iniciativa representa un paso adelante en la lucha contra la intolerancia en el entorno digital.

El sistema integra dos herramientas, Monitor FARO, desarrollado por Séntisis Intelligence, y ALERTODIO. La combinación de ambas permite no solo identificar mensajes de odio, sino también analizar su contenido y realizar reportes a las plataformas digitales, evaluando la respuesta de estas ante los contenidos denunciados.

Una de las claves del Sistema FARO es su capacidad para trabajar con inteligencia artificial, permitiendo una clasificación automatizada de los mensajes en tiempo real. El sistema aplica más de 100.000 reglas semánticas especializadas en español para filtrar y clasificar la información según distintos atributos, como el grupo diana del ataque, el tipo de discurso o la intención detrás del mensaje.

El proceso de monitorización se divide en cuatro fases. En la captación y el filtrado de contenido el monitor se conecta a las API de las distintas plataformas para detectar en tiempo real el discurso de odio.  Se distingue entre el discurso de odio, contenido que podría ser ilegal o infringir las normas de la plataforma; y el discurso odioso y narrativas discriminatorias que, aunque no son ilegales, promueven la intolerancia.

El proceso de análisis de los mensajes detectados incluye doble revisión: por una parte, un filtro automatizado, que está basado fundamentalmente en el análisis textual y, después, una revisión manual realizada por el equipo del OBERAXE. Esta combinación asegura una mayor precisión y permite entrenar al sistema para adaptarse a las nuevas formas de discurso de odio.

Los contenidos que cumplen con los criterios son reportados a la plataforma. Además, se monitoriza la respuesta de ésta, registrando si el contenido es eliminado o si se limita su visibilidad. El sistema distingue entre los mensajes retirados rápidamente, ya sea a las 24 horas, 48 horas o a la semana, y aquellos que requieren una vía de reporte prioritaria, los Trusted Flaggers, reservado para entidades especializadas. En casos graves se recurre a la Fiscalía de Delitos de Odio y Discriminación.

El Sistema FARO también destaca por su enfoque en la presentación de los resultados. Los datos recogidos se muestran a través de un visualizador en la web de OBERAXE, se muestran los resultados obtenidos acumulados desde el 1 de enero de 2025 y en tiempo real, y en boletines mensuales, trimestrales y anuales, que permiten hacer seguimiento detallado de la evolución del discurso de odio en España.  

Variables clave en el análisis

El Sistema FARO no solo identifica el contenido, sino que también lo clasifica para entender las dinámicas del odio. El grupo diana identifica los grupos de población que son objeto de discurso de odio con más frecuencia, como pueden ser las personas africanas, musulmanes o refugiados; el episodio que suscita el discurso de odio determina los eventos que motivan el discurso de odio; la tipología del contenido analiza cómo se expresa el odio, ya sea presentando a un grupo como una amenaza, incitando a la violencia o promoviendo el descrédito; la expresión del lenguaje se refiere a las características que adopta el lenguaje del usuario para transmitir el mensaje, pudiendo ser agresivo explicito, discriminatorio no agresivo e ironía o sarcasmo; y el género, que identifica si se dirige principalmente hacia hombres o mujeres.