¿Qué es el Centro Europeo para la Transparencia Algorítmica y en qué trabaja? - Observatorio Español del Racismo y la Xenofobia

En el marco de la Ley de Servicios Digitales (DSA, por sus siglas en inglés), la Comisión Europea presentaba el pasado 18 de abril, en Sevilla, el Centro Europeo para la Transparencia Algorítmica (ECAT). Un proyecto que pone de relieve la importancia de la transparencia algorítmica y gestión de contenidos, integrado en la infraestructura del Centro Común de Investigación (JRC) – el servicio interno de ciencia y conocimiento de la Comisión – con colaboración de la Dirección General de Redes de Comunicaciones, Contenidos y Tecnología (DG CONNECT).  

Los sistemas algorítmicos condicionan múltiples aspectos de nuestra experiencia online pues constantemente identifican, categorizan, sugieren y presentan información a los usuarios. Influyen en las publicaciones que nos aparecen en redes sociales, las noticias que leemos, los anuncios, las canciones que Spotify nos recomienda “en base a nuestros gustos” y un largo etc. Su impacto social y ético es cada vez mayor y, por ello, hay una necesidad de supervisar su uso en las grandes plataformas y motores de búsqueda. Ahí es donde entran la DSA y el nuevo Centro Europeo para la Transparencia Algorítmica.  

Operativa desde enero de 2023, la ECAT tiene como propósito la creación de un espacio en línea más seguro, predecible y confiable para la sociedad y comunidad empresarial. Formado por una amplia red de técnicos, investigadores, juristas y especialistas en datos e Inteligencia Artificial contribuirá con conocimiento especializado a la tutela que realiza la Comisión Europea del cumplimiento de la DSA.

Su labor – realizada en colaboración con organismos y organizaciones representativas de la industria, la academia y la sociedad civil – está sujeta tanto a la supervisión de la Comisión como a una auditoría externa independiente, de investigadores y sociedad civil. 

Algunas de las tareas principales del Centro son: la evaluación e investigación de plataformas; el análisis de transparencia; el asesoramiento sobre riesgos y auditorías; la identificación y medición de los riesgos sistémicos asociados a las grandes plataformas en línea y motores de búsqueda; la mitigación de riesgos; propuestas de nuevos enfoques y buenas prácticas; y, la creación de redes y comunidades.

El ECAT se establece como espacio de investigación y centralización de conocimiento, aspirando a convertirse en referente internacional en un ámbito en el que España cuenta con una posición de liderazgo.

De la transparencia algorítmica a la inteligencia artificial

Más allá de la importancia de la transparencia algorítmica, otra de las grandes prioridades de la agenda europea y de la presidencia española del Consejo de la UE es la implementación de un Reglamento Europeo de Inteligencia Artificial que establezca un marco legislativo en promoción de una IA fiable, sólida y, sobre todo, ética, y que genere obligaciones tanto a proveedores como usuarios. 

En ese afán por sacar adelante el reglamento, el 3 de octubre se abrió el registro para un “entorno de pruebas” (sandbox) – liderado por España y apoyado por la Comisión Europea – con el objetivo de definir una guía de buenas prácticas para su futura implementación. 

Siguiendo con las conversaciones sobre IA, los días 16 y 17 de noviembre en Casa América (Madrid) se celebrará la 4ª Asamblea de la Alianza Europea de IA, un espacio que reunirá a responsables políticos y stakeholders para compartir ideas y seguir avanzando a nivel europeo en la materia.