87 José Julio Fernández Rodríguez el riesgo no medible. El secreto, en cambio, desalentará el comportamiento estratégico de estos consumidores (Kroll et al., 2019, p. 24). Además, pueden existir realidades técnicas que hace inútil la transparencia, como en los procesos de decisión que implican algún elemento de aleatoriedad, o en sistemas que cambian con el tiempo. En efecto, con relación a esto último el comportamiento de los participantes provoca alteraciones en los procesos de decisión (como los algoritmos que seleccionan anuncios web o los sistemas que eligen publicaciones en redes sociales). Incluso, los sistemas de aprendizaje automático en línea actualizan sus reglas de decisión después de cada consulta. Conocer el algoritmo en su versión inicial es inútil pues ya ha mutado. Un problema adicional se presenta por las exigencias de la propiedad industrial e intelectual, las cuales limitarán una hipotética transparencia para que no detalle los entresijos de los sistemas de inteligencia artificial y, así, no sean conocidos por la competencia. La transparencia se limitaría a ciertos aspectos generales que no vulnerasen el secreto industrial o intelectual. Tenemos casos en los que la propiedad intelectual ha impedido la divulgación de un algoritmo. Por ejemplo, la denegación en Espa a a la Fundación Ciudadana Civio del algoritmo empleado para el cálculo del bono social eléctrico (sistema BOSCO). Esta Fundación, basándose en el derecho de acceso a la información pública de la Ley espa ola 19/2013, de transparencia, acceso a la información y buen gobierno, realizó dicha solicitud al Ministerio de Energía, Turismo y Agenda Digital, que denegó aplicando el art. 14.1.j) de dicha Ley 19/2013, el cual permite limitar el derecho de acceso cuando suponga “un perjuicio para [...] la propiedad intelectual” (para más detalles, De la Cueva, 2019; igualmente Presno Linera, 2022, p. 79-80). Boix Palop también se refiere a una Sentencia de la Corte del Distrito de La Haya de 5 de febrero de 2020, que “tampoco ha considerado imprescindible la entrega del código fuente en su totalidad, aun considerando que la información sobre el funcionamiento del algoritmo en cuestión y la lógica empleada en ese caso era manifiestamente insuficiente” (Boix Palop, 2020, p. 244). En Estados Unidos fue conocida la decisión basada en la defensa de la propiedad intelectual que rechazó entregar el código fuente del sistema COMPAS, una herramienta de evaluación de riesgo que usa-
RkJQdWJsaXNoZXIy MjEzNzYz