La Universidad Pública de Navarra celebra unas jornadas internacionales sobre Inteligencia Artificial aplicada al análisis del odio y la desinformación - Observatorio Español del Racismo y la Xenofobia

La Universidad Pública de Navarra (UPNA) acogió en Pamplona los días 29 y 30 de abril las ‘Jornadas internacionales Inteligencia Artificial e Investigación Social: enfoques innovadores para el análisis de formas de antagonismo’, un encuentro académico orientado a analizar el impacto de las nuevas tecnologías basadas en fenómenos sociales relacionados con el odio, la polarización y la desinformación en entornos digitales. El evento reunió a especialistas procedentes de distintos países de Europa y América con el objetivo de impulsar un espacio de diálogo académico sobre los usos sociales, éticos y preventivos de la Inteligencia Artificial en el actual contexto digital. Las sesiones se desarrollaron desde una perspectiva interdisciplinar, integrando enfoques tecnológicos y de investigación social.

Los intervinientes abordaron distintos ejes temáticos vinculados al estudio de procesos como la xenofobia, la radicalización o la propagación de contenidos desinformativos en Internet. Investigadores en estas materias procedentes de países como Estados Unidos, Colombia, El Salvador, Alemania y España analizaron el potencial de la Inteligencia Artificial para identificar patrones de comportamiento y dinámicas discursivas que afectan a la convivencia social. Entre las personas participantes se encontraban especialistas de reconocido prestigio internacional, junto a perfiles del ámbito estatal vinculados al desarrollo de herramientas para el análisis y seguimiento del discurso de odio. La organización del encuentro corrió a cargo del Instituto I‑COMMUNITAS de la UPNA, en el que también colaboraron, entre otros, el Consejo Superior de Investigaciones Científicas (CSIC).

Tomás Fernández, director del Observatorio Español del Racismo y la Xenofobia (OBERAXE), intervino el jueves 30 de abril en la mesa sobre ‘Inteligencia Artificial y desinformación, moderada por Sergio García-Mañariño, por parte de la UPNA, y en la que también ofrecieron sus aportaciones Pablo Oñate (Universidad de Valencia), Andrés Montoro (Universidad de Castilla-La Mancha) y Edimar Ortiz (Universidad Cooperativa de Colombia).

Fernández repasó la labor que el OBERAXE, creado en 2006, realiza en cuanto a la monitorización del discurso de odio en las principales redes sociales (Facebook, X, Twitter, Instagram y Youtube) mediante el sistema FARO y abordó el fenómeno de la desinformación en el marco de la promoción de la igualdad y de trato, la no discriminación y la lucha contra el racismo y la xenofobia. Asimismo, destacó la importancia de la colaboración y coordinación entre los diferentes agentes públicos y privados, nacionales e internacionales, para hacer frente a los discursos intolerantes, así como el impulso de planes, estudios y estrategias para favorecer la inclusión en la sociedad de colectivos vulnerables como, por ejemplo, las personas migrantes.

También recordó que sigue habiendo numerosos mensajes en plataformas de Internet que suponen una discriminación por su naturaleza racista, antisemita, antigitana o de cualquier otra índole, por motivos ideológicos, de orientación sexual o de nacionalidad. En este sentido, el OBERAXE realiza una continua labor de rastreo y denuncia para que este tipo de contenidos, basados en la desinformación y amparados por el anonimato, sean retirados o, en su caso, trasladados a las autoridades competentes por si son constitutivos de delito según el artículo 510 del Código Penal.

El responsable de OBERAXE subrayó además que existe un preocupante crecimiento del extremismo violento que intenta extender teorías conspirativas, prejuicios y bulos a los que hay que hacer frente mediante una mejor alfabetización mediática, unas contranarrativas más eficaces y una adecuada regulación normativa a nivel de la Unión Europea.

Las jornadas pusieron de relieve la importancia de trasladar los avances de la investigación académica al ámbito institucional y social. En este sentido, los debates subrayaron la utilidad de las herramientas basadas en inteligencia artificial para apoyar la elaboración de políticas públicas, mejorar los sistemas de alerta temprana y reforzar las estrategias de prevención frente al discurso de odio y la desinformación. Uno de los proyectos presentados fue el denominado Xenometer, una iniciativa internacional a modo de radar, que utiliza la ciencia de datos para identificar discursos de odio en las redes sociales.

Durante el programa se abordaron también cuestiones relacionadas con la responsabilidad en el diseño y uso de estas tecnologías, así como su aplicación en otros ámbitos sociales, como los procesos de radicalización o el impacto de la desinformación en la opinión pública. Las sesiones incluyeron una reflexión sobre el papel de la Inteligencia Artificial en los grandes retos contemporáneos, como la transición ecológica y la calidad del debate democrático.

El encuentro concluyó con una reflexión compartida sobre el papel de la inteligencia artificial como herramienta de apoyo para comprender mejor las tensiones sociales y contribuir a su prevención. Desde la organización se destacó la necesidad de combinar innovación tecnológica, investigación social y enfoque ético para garantizar que estas herramientas se utilicen al servicio de la convivencia y los derechos fundamentales.