El Oberaxe incorpora la inteligencia artificial para combatir el discurso de odio gracias al convenio entre LALIGA y el Ministerio de Migraciones

L'Observatoire espagnol du racisme et de la xénophobie (OBERAXE), qui relève du Secrétariat d'État aux migrations, et LALIGA ont présenté le nouveau système FARO, qui permettra d'accéder à des milliers de messages quotidiens et augmentera d'au moins 20 % le nombre de contenus signalés comme discours de haine sur les plateformes. La présentation a compté sur la participation de Pilar Cancela, secrétaire d’État aux Migrations; Ángel Fernández, directeur de la marque et de la stratégie de LALIGA; et Andrés Poves, directeur mondial du conseil de l’entreprise Séntisis Intelligence.

Cancela a assuré que « nous avons fait un pas non seulement quantitatif, mais qualitatif dans l’un des objectifs que nous nous sommes fixés depuis le gouvernement espagnol et, de manière concrète, cette Secrétairerie d’État à travers l’OBERAXE : l’éradication du discours de haine, qui sur les réseaux sociaux a un impact et une prolifération préoccupants ». La secrétaire d’État a souligné la nécessité de pouvoir accéder à des données scientifiques pour détecter le discours raciste et xénophobe, mais aussi pour pouvoir concevoir des politiques et des actions visant à l’éradiquer.

À cet égard, il a fait référence à certaines des données extraites du bulletin de surveillance de février, le dernier avant l'utilisation du nouvel outil. Encore une fois, les discours haineux sont liés à l’insécurité des citoyens, avec 40% des messages signalés, et plus de 50% présentent un discours agressif explicite. Mais surtout, près de 60% des contenus sont basés sur des perceptions, ce qui reflète la façon dont le concept d'insécurité peut être déformé ou exagéré dans les discours. « Cette perception, souvent alimentée par des stéréotypes et des préjugés, joue un rôle clé dans la construction de récits sociaux qui associent certains groupes à la criminalité et à la menace à la sécurité publique », a-t-il déclaré.

C’est pourquoi la collaboration public-privé prend une importance particulière, comme l’accord récemment signé avec LALIGA, que Pilar Cancela a cité comme exemple, en remerciant la cession de l’outil et en annonçant de nouvelles et prochaines collaborations dans ce cadre pour pouvoir avancer dans l’éradication du discours de haine dans le sport et « depuis le sport ».

Cette collaboration a également été mentionnée par le directeur de la marque et de la stratégie de LALIGA, Ángel Fernández, qui a souligné la “grande utilité” que le système FARO aura également pour LALIGA, qui “nous donnera la lumière” pour “décider” des actions qu’il promeut et “nettoyer ces contenus” des réseaux sociaux, mais aussi des terrains de football. Fernandez a appelé à la participation de la société dans son ensemble dans cette lutte contre le discours raciste, xénophobe, sexiste et homophobe, et a mis l’accent sur le « sentiment d’impunité » qui existe pour que ces contenus puissent proliférer; c’est pourquoi des conventions telles que celle signée par le Ministère des Migrations et LALIGA représentent un pas en avant pour combattre ce discours.

Identification et analyse en temps réel

Le système FARO est la nouvelle méthodologie que va utiliser l’OBERAXE, désormais, pour l’identification et l’analyse en temps réel des contenus de discours haineux à motivation raciste, xénophobe, islamophobe, antisémite et antigitane, publiés sur cinq des plateformes de réseaux sociaux (Facebook, Instagram, TikTok, YouTube et X) les plus implantées en Espagne; et qui peuvent être constitutifs d’un délit, d’une infraction administrative, ou qui enfreignent les règles d’utilisation des propres plateformes de prestation de services numériques.

Le développement du système FARO est né en octobre 2024, grâce à l’accord signé entre le ministère de l’Inclusion, de la Sécurité sociale et des Migrations et LALIGA pour combattre le discours de haine du sport. Ce travail conjoint a permis à l’OBERAXE d’approfondir et de multiplier la portée du travail déjà réalisé depuis 2020 sur la base de la méthodologie de surveillance établie dans les exercices d’évaluation du respect du Code de conduite pour la lutte contre l’incitation illégale à la haine sur Internet, signé en 2016 par la Commission européenne avec les principales plateformes de réseaux sociaux implantées sur le territoire européen.

Le Système FARO intègre l’utilisation de la technologie de l’intelligence artificielle, formée au Moniteur pour l’Observation de la Haine dans le Sport (MOOD) de LALIGA, à la connaissance et à l’expérience que possède l’OBERAXE dans la surveillance du discours de haine sur les réseaux sociaux. En outre, le nouveau système combine l’utilisation de deux outils, Monitor FARO et ALERTODIO, associés à une nouvelle méthodologie de travail qui concerne à la fois l’identification du contenu et l’analyse et la présentation des résultats à travers un moniteur de visualisation de données en temps réel.

D’une part, il dispose du moniteur FARO, développé par l’entreprise technologique Séntisis Intelligence, qui constitue l’adaptation spécifique de l’outil MOOD à l’objet d’étude de l’OBERAXE. Ce moniteur FARO permet, de manière automatisée et en temps réel, la capture de contenus haineux sur les réseaux sociaux et leur catégorisation en fonction des variables utilisées dans l’analyse.

D’autre part, en ce qui concerne le rapport des contenus aux plateformes et l’évaluation des réponses de celles-ci, on utilise l’outil ALERTODIO, conçu par l’OBERAXE et l’Université Polytechnique de Valence (UPV), qui permet d’enregistrer les contenus notifiés et de suivre les actions prises par les plateformes face aux notifications envoyées.

Le moniteur de visualisation des données du système FARO est disponible pour la consultation de tous les citoyens sur le nouveau portail Web de l’OBERAXE.

L’OBERAXE renouvelle son image et son portail web

Ce nouveau portail web offre un accès facile et intuitif à tous les contenus et services offerts par l'OBERAXE. En outre, il présente une structure plus accessible et attrayante pour le citoyen, qui améliore la navigation et devient un outil de recherche très utile d'informations pertinentes liées à la lutte contre le racisme, la xénophobie et d'autres formes d'intolérance en Espagne.

L'accès à l'information occupe une place de choix dans le nouveau portail Web. Il est désormais possible d’accéder aux informations publiées par l’OBERAXE de manière individualisée et classées par domaines d’action, à tous les projets nationaux et internationaux réalisés par l’OBERAXE depuis sa création, ainsi qu’au vaste catalogue de publications et études thématiques réalisées depuis 2005.

Les actions menées dans le cadre du « Cadre stratégique pour la citoyenneté et l’inclusion, contre le racisme et la xénophobie 2023-2027 », de l’ « Accord de coopération institutionnelle contre le racisme, la xénophobie, la LGBTBI et d’autres formes d’intolérance », ainsi que tous les bulletins de surveillance des discours de haine illégaux en ligne publiés depuis 2020 sont également disponibles.
 
Section pour aider les victimes de discrimination

Le site comprend également une section pour aider les victimes qui ont pu subir une forme de discrimination, où elles peuvent accéder à l'information nécessaire sur les soins juridiques, les soins psychologiques, les conseils, la médiation et d'autres ressources d'intérêt. En outre, le nouveau portail Web continuera d'offrir à toutes les personnes intéressées l'abonnement à la newsletter hebdomadaire contenant des informations sur le racisme, la xénophobie et d'autres formes d'intolérance, ainsi que sur les crimes et discours haineux.

Avec la rénovation du portail se présente également la nouvelle image de l’OBERAXE, avec un logo plus moderne et plus proche, qui s’adapte aux valeurs et à la mission de l’Observatoire.

Il a travaillé sur un site adapté aux mobiles et aux tablettes, ce qui est crucial car de plus en plus d’utilisateurs accèdent à Internet à partir de ce type d’appareils. Utilisez des espaces blancs pour améliorer la lisibilité et éviter la surcharge visuelle. Il crée également une hiérarchie visuelle claire en utilisant différentes tailles, couleurs et positions des éléments. Tout cela pour améliorer l’accessibilité et améliorer l’expérience de tous. Les chaînes YouTube et WhatsApp de l’OBERAXE continueront d’être accessibles via le nouveau site web.