El director de OBERAXE participa en el I Foro Contra el Odio en una mesa sobre buenas prácticas con las plataformas digitales - Observatorio Español del Racismo y la Xenofobia

Tomás Fernández, director del Observatorio Español del Racismo y la Xenofobia (OBERAXE), participó el 11 de marzo en el I Foro Contra el Odio organizado por el Ministerio de Inclusión, Seguridad Social y Migraciones, cofinanciado por la Unión Europea a través del Fondo de Asilo, Migración e Integración (FAMI). El máximo responsable de OBERAXE expuso el trabajo que se realiza desde esta institución desde hace años en la mesa dedicada a ‘Tecnología y buenas prácticas’. Junto a él intervinieron Miguel Escassi, director de Relaciones Institucionales y Políticas Públicas de Google; Ana Abade, Sénior Manager de Relaciones Institucionales de TikTok para España y Portugal y José Luis Zimmermann, director de Políticas Públicas de META para España y Portugal. El encargado de moderar la mesa fue el periodista especializado en tecnología y director de Retina (El País), Jaime García Cantero.

Durante su exposición, los responsables de las plataformas tecnológicas y responsables de los mecanismos de monitorización del discurso de odio en redes sociales hablaron de la importancia de hacer un trabajo en equipo y coordinado. En la charla se habló de la retirada de mensajes de odio, de la colaboración institucional que ha hecho posible el grupo de trabajo contra el odio en las redes, de las plataformas y el OBERAXE y LaLIGA, y de las buenas prácticas que ya están aplicando algunas tecnológicas para evitar la propagación del discurso de odio.

Así, Tomás Fernández, expuso cómo la Inteligencia Artificial juega un papel clave en la difusión de odio, pero también puede jugarlo para controlarlo, como se hace en el trabajo de monitorización de OBERAXE a través del sistema FARO en el que se incorporó la Inteligencia Artificial para amplificar el trabajo de monitorización con la metodología de OBERAXE. “Gracias a este sistema podemos localizar mensajes que en muchos casos podrían ser delictivos y que pueden incumplir la propia normativa de las plataformas y eso nos permite detectar repuntes de odio racista y evitar que puedan ocurrir de nuevo incidentes como los de Torre Pacheco”, explicó. Trimestralmente este grupo de trabajo se reúne y se van afinando los mecanismos y los buenos resultados que ya se van apreciando en los informes de monitorización mensuales que se realizan desde OBERAXE.

Además, explicó el trabajo de OBERAXE como trusted flaggers o verificadores confiables que van dando sus frutos poco a poco. “Gracias a este trabajo estamos consiguiendo que se ofrezcan las tasas de retirada previa de odio de las plataformas y a nosotros nos ayuda también a afinar en estos mecanismos de moderación”, explicó el responsable de la institución.

Otra de las labores que puso en valor fue la tarea educativa que se realiza desde OBERAXE para prevenir el racismo y otras formas de discriminación: “ tenemos un acuerdo interinstitucional en el que ostentamos la presidencia y tenemos un grupo específico de formación y difusión gracias a esas redes de trabajo institucionales, al tercer sector y la sociedad civil para trabajar de forma conjunta en la formación en el ámbito escolar, pero también en adultos porque es un trabajo de todos. Y todos debemos poner nuestro granito de arena”, concluyó.

Los responsables de las distintas plataformas destacaron las tareas de monitorización y compartieron varias iniciativas para empoderar a los buenos creadores de contenidos y herramientas de autoprotección desarrolladas por plataformas como TikTok.

Creación de la Huella del Odio y la Polarización (HODIO)

El evento, que reunió en Madrid a expertos, representantes institucionales y víctimas, se configuró como un espacio de diálogo para proponer soluciones efectivas contra los discursos hostiles y su impacto social.

En el Foro, el presidente del Gobierno, Pedro Sánchez anunció la creación de la Huella del Odio y la Polarización (HODIO), que cuenta ya con un espacio en la web de OBERAXE. Según explicó el presidente, la nueva herramienta permitirá calcular y publicar de manera periódica un indicador de odio y polarización en cada red social: su prevalencia, el nivel de amplificación e impacto. Utiliza un sistema combinado de análisis que estudia el contenido público en las redes sociales, identificando el odio y la polarización.

Sánchez destacó en el evento que los datos serán públicos “para que todo el mundo sepa quien frena el odio, quien mira hacia otro lado y quien hace negocio con el odio”. HODIO combinará análisis cuantitativo, Inteligencia Artificial y revisión experta para garantizar la precisión del análisis y el respeto a los derechos fundamentales. Además, cada seis meses se elaborará un informe que incluirá un ranking de plataformas para comparar la exposición a mensajes hostiles de los usuarios de cada plataforma.

En su intervención, el presidente señaló que el objetivo de la nueva herramienta “es sacar el odio de la sombra, exigir responsabilidades a quienes no actúan para que la vergüenza cambie de bando”. Por su parte, la ministra Elma Saiz, quien clausuró la jornada, ha asegurado que “sólo con diálogo y escucha vamos a conseguir la sociedad libre de odio a la que aspiramos. La acción más poderosa reside en combatir el odio, no en compartirlo”.

Durante el encuentro se escucharon diversos testimonios de los efectos del acoso digital en redes sufrido por las mujeres, o la persecución que sufren los menores migrantes, con la participación del miembro de la Asociación EXMENAS, Mohamed El Harrak, que llegó a los 8 años a España en los bajos de un camión, y cómo la agresividad vertida en las redes sociales condiciona la vida de las personas LGTBIQ+, con la presencia de la actriz y directora Abril Zamora.

El Harrak comenzó su emocionante intervención agradeciendo que dieran voz a su colectivo. “Este odio influye en su forma de ver la vida, en su autoestima y la manera de vivir de miles de chicas y chicos”, explicó. Y citó algunos de los testimonios de los adolescentes con los que trabaja como asistente social: “Como Yaiza a la que le insultan en la escuela o le miran mal por llevar hiyab -que lleva por obligación de su familia-, o Mamadú, que en el súper es perseguido por el guardia cada vez que entra a comprar, o Said o Youseff que no acuden al centro de salud a pesar de estar enfermos por miedo a que le detengan, o por Antony que en el desierto tuvo que beber su orina para sobrevivir o por las chicas manoseadas o violadas en sus viajes migratorios…”.  Los participantes dieron su testimonio del odio que sufren su día a día, en una mesa moderada por la ministra de Inclusión, Seguridad Social y Migraciones, Elma Saiz, que alertó de cómo ese odio que se vierte en redes sociales puede saltar a la vida real.

La jornada contó con la presencia de cuatro ministros, lo que demuestra el compromiso del Gobierno con este problema social. Y acogió además de la mesa de tecnología otras dos mesas redondas donde las personas participantes señalaron el impacto que los discursos de odio tienen directamente en quienes reciben los ataques y en la convivencia democrática. Como la intervención de la exdirectora de OBERAXE, Karoline Fernández de la Hoz, que concluyó que “el odio se construye y se fabrica y se ve claramente con los datos del OBERAXE”. Y puso como ejemplo como “a la población del norte de África se le intenta vincular con la inseguridad ciudadana y se les deshumaniza”.