Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

95 José Julio Fernández Rodríguez En el apartado 4.5 vimos un par de ejemplos sobre la falta de transparencia relativa a algoritmos; pero también existen casos en otro sentido que se concretan en decisiones que imponen el acceso a dichos algoritmos. Así Boix Palop cita decisiones de la Comissió de Garantia del Dret d’Accés a la Informació Pública catalana (decisiones 123/2016 y 124/2016, de 21 de septiembre) basadas en el derecho de acceso a la información pública13, al igual de casos en Italia14, Francia y Holanda (Cotino Hueso, 2019, p. 36; Ponce Solé, 2019, p. 42). Es decir, la normativa que ya existe de transparencia (en Espa a la citada Ley 19/2013) puede interpretarse de forma favorable a facilitar dicho acceso, sobre todo en lo referido al derecho de acceso que tiene la ciudadanía. En todo caso, no olvidemos que esta normativa se refiere sólo al poder público. También en Espa a el Estatuto de los Trabajadores, tras una reforma en 2021, establece que el comité de empresa tiene el derecho a ser informado de “los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de IA que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, acceso y mantenimiento del empleo, incluida la elaboración de perfiles”. De igual forma, en el ámbito de los consumidores existen elementos a favor de esta transparencia en los mercados digitales. Así se debe informar sobre “los principales parámetros que determinan la clasificación de las ofertas presentadas al consumidor o usuario como resultado de la búsqueda y la importancia relativa de dichos parámetros frente a otros”, lo que puede dar lugar a exigir que se explique cómo interactúan los conjuntos de datos empleados por el algoritmo (art. 97 bis del Real Decreto Legislativo 1/2007, de 16 de noviembre, por el que se aprueba el texto refundido de la Ley General para la Defensa de los Consumidores y Usuarios y otras leyes complementarias). El Reglamento EU sobre inteligencia artificial (Reglamento 2024/1689) aborda varios aspectos de esta necesidad de transparencia, en un esfuerzo plausible, aunque con limitaciones al girar en torno a un mero enfoque del riesgo. Así, se imponen diversas obligaciones de transparencia a determinados sistemas de inteligencia 13 Se refieren al algoritmo que seleccionó a los miembros de los tribunales correctores de las pruebas de acceso a la universidad. 14 Acceso al código fuente del algoritmo de gestión de la movilidad de profesores del curso 2016-2017.

RkJQdWJsaXNoZXIy MjEzNzYz