El Oberaxe incorpora la inteligencia artificial para combatir el discurso de odio gracias al convenio entre LALIGA y el Ministerio de Migraciones

O Observatorio Español do Racismo e a Xenofobia (OBERAXE) , dependente da Secretaría de Estado de Migracións, e LALIGA presentaron o novo Sistema FARO, que permitirá acceder a miles de mensaxes diarias e incrementará nun mínimo do 20% o número de contidos reportados como discurso de odio ás plataformas. A presentación contou coa participación de Pilar Cancela, secretaria de Estado de Migracións; Ángel Fernández, director de Marca e Estratexia de LALIGA; e Andrés Poves, director global de consultoría da empresa Séntisis Intelligence.

Cancela asegurou que “demos un paso non só cuantitativo, senón cualitativo nun dos obxectivos que nos marcamos desde o Goberno de España e, de forma concreta, esta Secretaría de Estado a través do OBERAXE: a erradicación do discurso de odio, que nas redes sociais ten un impacto e unha proliferación preocupante”. A secretaria de Estado incidiu na necesidade de poder acceder a datos científicos para detectar o discurso racista e xenófobo, pero tamén para poder deseñar as políticas e accións encamiñadas a erradicalo.

Neste sentido, referiuse a algúns dos datos que se extraen do boletín de monitorización de febreiro, o último antes de utilizar a nova ferramenta. Unha vez máis, o discurso de odio relaciónase coa inseguridade cidadá, cun 40% das mensaxes denunciadas, e máis dun 50% presentan un discurso agresivo explícito. Pero o máis destacado é que case o 60% dos contidos baséanse en percepcións, o que reflicte como o concepto de inseguridade pode estar distorsionado ou esaxerado nos discursos. “Esta percepción, alimentada en moitos casos por prexuízos e estereotipos, xoga un papel clave na construción de narrativas sociais que asocian certos colectivos coa criminalidade e a ameaza á seguridade pública” , dixo.

De aí que a colaboración público-privada adquira unha relevancia especial, como o convenio asinado recentemente con LALIGA, que Pilar Cancela puxo como exemplo, agradecendo a cesión da ferramenta e anunciando novas e próximas colaboracións dentro deste marco para poder avanzar na erradicación do discurso de odio no deporte e “desde o deporte”.

A esta colaboración tamén se referiu o director de Marca e Estratexia de LALIGA, Ángel Fernández, que subliñou a “gran utilidade” que tamén terá para LALIGA o sistema FARO, que “nos vai dar a luz” para “decidir” sobre as accións que promova e “ir limpando estes contidos” das redes sociais, pero tamén dos campos de fútbol. Fernández apelou á participación da sociedade no seu conxunto nesta loita contra o discurso racista, xenófobo, sexista e homófobo, e puxo o acento na “sensación de impunidade” que existe para que estes contidos poidan ferar; de aí que convenios como o asinado polo Ministerio de Migracións e LALIGA supoñan un paso adiante para combater este discurso.

Identificación e análise en tempo real

O Sistema FARO é a nova metodoloxía que vai empregar o OBERAXE, a partir de agora, para a identificación e análise en tempo real dos contidos de discurso de odio con motivación racista, xenófoba, islamófoba, antisemita e antixitana, publicados en cinco das plataformas de redes sociais (Facebook, Instagram, TikTok, YouTube e X) con maior implantación en España; e que poden ser constitutivos de delito, de infracción administrativa, ou que infrinxen as normas de uso das propias plataformas de prestación de servizos dixitais.

O desenvolvemento do Sistema FARO naceu en outubro de 2024, grazas ao convenio asinado entre o Ministerio de Inclusión, Seguridade Social e Migracións e LALIGA para combater o discurso de odio desde o deporte. Este traballo conxunto permitiu ao OBERAXE profundar e multiplicar o alcance do traballo que xa viña realizando desde 2020 sobre a base da metodoloxía de monitorización establecida nos exercicios de avaliación do cumprimento do Código de Conduta para a loita contra a incitación ilegal ao odio en Internet, asinado en 2016 pola Comisión Europea coas principais plataformas de redes sociais implantadas en territorio europeo.

O Sistema FARO incorpora o uso da tecnoloxía da intelixencia artificial, adestrada no Monitor para a Observación do Odio no Deporte (MOOD) de LALIGA, ao coñecemento e a experiencia que aesra o OBERAXE na monitorización do discurso de odio nas redes sociais. Ademais, o novo sistema conxuga o uso de dúas ferramentas, Monitor FARO e ALERTODIO, axuntadas a unha nova metodoloxía de traballo que atinxe tanto á identificación de contidos como á análise e presentación dos resultados a través dun monitor de visualización de datos en tempo real.

Por unha banda, conta co monitor FARO, desenvolvido pola empresa tecnolóxica Séntisis Intelligence, que constitúe a adaptación específica da ferramenta MOOD ao obxecto de estudo do OBERAXE. Este monitor FARO permite, de xeito automatizado e en tempo real, a captación de contidos de discurso de odio nas redes sociais e a súa categorización en base ás variables empregadas na análise.

Por outra, no referente ao reporte dos contidos ás plataformas e á avaliación das respostas destas, emprégase a ferramenta ALERTODIO, deseñada polo OBERAXE e a Universidade Politécnica de Valencia (UPV) , que permite rexistrar os contidos notificados e levar un seguimento das accións tomadas polas plataformas ante as notificacións remitidas.

O monitor de visualización de datos do Sistema FARO está dispoñible para consulta de toda a cidadanía no novo portal web do OBERAXE.

O OBERAXE renova a súa imaxe e o seu portal web

Este novo portal web ofrece un acceso fácil e intuitivo a todos os contidos e servizos ofrecidos polo OBERAXE. Ademais, presenta unha estrutura máis accesible e atractiva para o cidadán, que mellora a navegación e convértese nunha ferramenta de procura moi útil de información relevante relacionada coa loita contra o racismo, a xenofobia e outras formas de intolerancia en España.

O acceso á información ocupa un lugar destacado no novo portal web. Agora pódese acceder ás noticias publicadas polo OBERAXE de maneira individualizada e clasificadas por áreas de actuación; a todos os proxectos nacionais e internacionais levados a cabo polo OBERAXE desde a súa creación; así como ao amplo catálogo de publicacións e estudos temáticos realizados desde o ano 2005.

Tamén poden consultarse as accións levadas a cabo no contexto do “Marco Estratéxico de Cidadanía e Inclusión, contra o Racismo e a Xenofobia 2023-2027” , o “Acordo para cooperar institucionalmente contra o racismo, a xenofobia, a LGTBIfobia e outras formas de intolerancia” , así como todos os boletíns de monitorización do discurso de ilegal en liña publicados desde o ano 2020

discriminación

A web tamén inclúe un apartado para axudar ás vítimas que puideran sufrir algún tipo de discriminación, onde poden acceder á información necesaria sobre atención xurídica, atención psicolóxica, asesoramento, mediación e outros recursos de interese. Así mesmo, o novo portal web seguirá ofrecendo a todos os interesados a subscrición á newsletter semanal con información sobre racismo, xenofobia e outras formas de intolerancia, así como sobre delitos e discursos de odio.

Coa renovación do portal preséntase tamén a nova imaxe do OBERAXE, cun logotipo máis moderno e próximo, que se adecúa aos valores e a misión do Observatorio.

Traballouse nunha web adaptada a móbiles e tablets, algo crucial xa que cada vez máis usuarios acceden a internet desde este tipo de dispositivos. Utiliza espazos en branco para mellorar a lexibilidade e evitar a sobrecarga visual. Tamén crea unha clara xerarquía visual utilizando diferentes tamaños, cores e posicións dos elementos. Todo iso para mellorar a accesibilidade e mellorar a experiencia de todas persoas. A través da nova web seguirase tendo acceso ás canles de YouTube e de WhatsApp do OBERAXE.