Problemas jurídicos para controlar la discriminación algorítmica 94 • Esta normativa actualizada debe ser exigente con una mayor transparencia en el desarrollo y uso de algoritmos, lo que podría incluir la divulgación de los datos utilizados, los procesos de entrenamiento y los criterios de toma de decisiones. Así permitiríamos una mayor supervisión para detectar posibles sesgos y discriminación. El establecimiento de obligaciones de transparencia es una constante en las últimas décadas en nuestras democracias, de tal forma que el principio de transparencia se ha convertido en un elemento integrado en el propio concepto de democracia. Dado que hay decisiones algorítmicas que puede afectar de forma intensa a la vida de las personas, es una exigencia razonable e, incluso, de equidad que se sepa cómo se adoptan tales decisiones, lo que necesariamente pasa por las obligaciones de transparencia que estamos reclamando12. En esta línea de pensamiento también se sitúa el apoyo que en el mundo informático presenta el software libre y los códigos fuente open access, lo cual permite la participación de la comunidad para detectar errores y mejorar el producto que se elabora. La doctrina ya dejó claro todo ello hace décadas (como Lessig, 2006, p. 151-153). En el sector público es más fácil defender esta apuesta por la transparencia, como hace Cerrillo cuando aboga por el principio de transparencia para guiar la aplicación de los algoritmos en las administraciones públicas (Cerrillo i Martínez, 2019, p. 18). 12 Respecto a ello era interesante la previsión ya derogada de la anterior ley espa ola de procedimiento administrativo: el art. 45.4 de la Ley Ley 30/1992, de Régimen Jurídico de las Administraciones Públicas y del Procedimiento Administrativo Común, preceptuaba que “los programas y aplicaciones electrónicos, informáticos y telemáticos que vayan a ser utilizados por las Administraciones Públicas para el ejercicio de sus potestades, habrán de ser previamente aprobados por el órgano competente, quien deberá difundir públicamente sus características”. Esta ley ha sido sustituida en Espa a por la Ley 39/2015, de procedimiento administrativo común, que no contempla algo con tanta claridad. Tampoco lo hace otra de las leyes espa olas vigente hoy en día, la Ley 40/2014, de régimen jurídico del sector público. Lo que prevé el art. 41.2 de esa vigente Ley espa ola 39/2015 es que “en su caso” puede hacerse una auditoría del sistema de información y de su código fuente. Por lo tanto, una mera posibilidad cuando antes era una obligación (“deberá difundir” se decía en la ley ya derogada 30/1992).
RkJQdWJsaXNoZXIy MjEzNzYz