DISCURSO DE ODIO

MONITORIZACIÓN DEL DISCURSO DE ODIO ILEGAL EN LÍNEA

La monitorización del discurso de odio en las redes sociales que realiza el OBERAXE consiste en la búsqueda, recopilación, análisis y notificación a las plataformas, de contenidos de discurso de odio con motivación racista, xenófoba, islamófoba, antisemita y antigitana que puedan ser constitutivos de delito, de infracción administrativa, o que infrinjan las normas de uso de las propias plataformas de prestación de servicios digitales. 

El OBERAXE inició la monitorización diaria del discurso de odio en redes sociales en el año 2020, en el contexto de la irrupción de la pandemia de COVID-19. Desde 2022, el OBERAXE cuenta con una aplicación propia, ALERTODIO, diseñada por la Universidad Politécnica de Valencia (UPV), para el registro y recogida de contenidos de discurso de odio identificados en las redes. El soporte y desarrollo informático lo realiza la Gerencia de Informática de la Seguridad Social, del Ministerio de Inclusión, Seguridad Social y Migraciones. 

En el año 2024, el convenio de colaboración firmado entre el Ministerio de Inclusión, Seguridad Social y Migraciones y LALIGA, ha permitido al OBERAXE profundizar y multiplicar el alcance del trabajo realizado a través del nuevo Sistema FARO (Filtrado y Análisis de Odio en las Redes Sociales). Un sistema que aplica la inteligencia artificial, entrenada en el Monitor para la Observación del Odio en el Deporte (MOOD) de LALIGA, a la metodología, especialización y experiencia acumulada por el OBERAXE. 

Datos Básicos

  • 5 redes sociales

    Monitorizamos Facebook, Instagram, TikTok, YouTube y X

  • En español

    La búsqueda se centra en los contenidos publicados en español

  • Equipo de 8 personas

    6 monitorizadores y 2 personas con funciones de coordinación y análisis

  • Monitorización diaria

    La monitorización se realiza diariamente durante todo el año

Sistema FARO: monitorización del discurso de odio en tiempo real

En la siguiente visualización se muestran los datos obtenidos en los últimos 30 días.

Boletines de monitorización

Mensual

Mensual

Bimestral

Trimestral

Anual

Informe anual de monitorización

Objetivos y metodología

  • Evaluar la respuesta de las plataformas respecto a la retirada de contenidos de discurso de odio ilegal que se les notifican, en virtud de los compromisos adquiridos en el Código de conducta para combatir el discurso de odio ilegal en línea + de la UE y en la Ley de Servicios Digitales (DSA).
  • Colaborar con las plataformas de redes sociales en la identificación y moderación de los contenidos de discurso de odio.
  • Analizar el discurso de odio racista, xenófobo, islamófobo, antisemita y antigitano y detectar las tendencias de este discurso en España, contribuyendo a mejorar el análisis de la situación y a orientar el desarrollo de políticas públicas.

 


La metodología se inspira en los ejercicios de evaluación del cumplimiento del “Código de Conducta para la lucha contra la incitación ilegal al odio en Internet”, firmado en 2016 por la Comisión Europea y las plataformas de redes sociales. La búsqueda se limita a la observación de perfiles abiertos y a contenidos de discurso de odio que afectan a las personas, sin entrar en mensajes de carácter político o referidos a Estados o instituciones.

La notificación de los contenidos de discurso de odio a las plataformas para su retirada se realiza como usuario normal. Si transcurrida una semana no se ha retirado el contenido, este se reporta de nuevo a través de la vía cualificada conocida como trusted flagger (comunicante fiable). Si se identifica un contenido potencialmente constitutivo de delito se eleva a la Fiscalía General del Estado. 

Es importante hacer mención al trabajo que se lleva a cabo a nivel europeo en el “Grupo de Alto Nivel (GAN) de la UE para combatir el discurso de odio y los delitos de odio” liderado por la Dirección General de Justicia y Consumidores de la Comisión Europea, en el que el OBERAXE se hace cargo de la representación española. 

Actividades

  • El 20 de septiembre de 2023 el OBERAXE organizó, en colaboración con la Comisión Europea, el evento Seminar on Combating Hate Speech, que tuvo lugar en la sede de la representación de la Comisión Europea en España. El seminario contribuyó a visibilizar y promover las estrategias e iniciativas para la prevención del discurso de odio, abordando el estado de la cuestión a nivel europeo y contribuyendo a establecer sinergias para el desarrollo de programas, políticas y acciones en diferentes niveles. 
  • El 22 de marzo de 2023 el OBERAXE organizó el taller online 'Cómo actuar frente a los mensajes de odio en las redes sociales', con motivo del del Día Internacional para la Eliminación de la Discriminación Racial y en el marco de las actividades organizadas en la Semana de la Administración Abierta 2023. El taller, online y gratuito, dio a conocer la labor del OBERAXE para combatir el discurso de odio en línea y ofreció a la ciudadanía información y herramientas para identificar contenidos de discurso de odio ilegal en redes sociales y notificarlo a las plataformas de internet. 
  • Entre el 18 y 26 de mayo de 2021, el OBERAXE organizó las Jornadas Académicas sobre Delitos de Odio. La primera sesión se tituló “Delitos de odio y derecho penal de la culpabilidad”; y la segunda, “Sobre extranjeros en prisión algunas vicisitudes penitenciarias”.
  • El 21 de marzo de 2021 se publicó el "Protocolo para Combatir el Discurso de Odio Ilegal en Línea" impulsado por la Secretaría de Estado de Migraciones. El Protocolo tiene la vocación de ser una guía para la cooperación entre las instituciones, la sociedad civil y las empresas de servicios de alojamiento de datos para prevenir y combatir el discurso de odio ilegal en línea. El protocolo se inspira en el Código de Conducta de la UE y en la Recomendación (UE) 2018/334 de la Comisión de 1 de marzo de 2018 sobre medidas para combatir eficazmente los contenidos ilícitos en línea.