Problemas jurídicos para controlar la discriminación algorítmica 108 Sin duda, aunque lo ya dicho en este apartado es sugerente, lo más importante son las normas jurídicas que imponen una regulación adecuada sobre inteligencia artificial, cuyo mayor exponente es el susodicho Reglamento UE 2024/1689. En él se consideran sistemas de alto riesgo los que, entre otras razones, presentan consecuencias adversas para el derecho a la no discriminación (considerando 48)23. En esta línea el art. 10.2.f de tal norma exige que la gobernanza y la gestión de datos de los sistemas de inteligencia artificial de alto riesgo se examinen, entre otras exigencias, atendiendo a posibles sesgos que puedan dar lugar a algún tipo de discriminación prohibida por el Derecho de la Unión Europea. Asimismo, esta normativa europea contempla que las autoridades nacionales competentes en la supervisión del Derecho de la Unión Europea en materia de protección de los derechos fundamentales (como los jueces y tribunales) pueden solicitar cualquier documentación relativa a los sistemas de inteligencia artificial de alto riesgo y acceder a ella en un lenguaje y formato accesible (art. 77.1). En dicho lugar se incluye expresamente el derecho a la no discriminación. También en Estados Unidos ha habido una producción normativa relevante en los últimos a os, en la que destacan cuatro normas: National Artificial Intelligence Act (2020), AI in Government Act (2020), Advancing American AI Act (2022), y la Executive Order 14110 on Safe, Secure ant Trustworthy Development and Use Artificial Intelligence (2023). Por último, citamos los sellos de calidad de los algoritmos. Su promoción se recoge, por ejemplo, en el art. 22.4 de la citada Ley espa ola 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación. 23 Así los problemas de discriminación se tienen en cuenta para definir como sistemas de inteligencia artificial de alto riesgo sistemas en el ámbito educativo (considerando 56), sistemas que se utilizan en el ámbito del empleo (considerando 57). De igual modo, se insista en la no discriminación en los sistemas de servicios y prestaciones sociales (considerando 58), en los empleados en la migración y asilo (considerando 60). La documentación técnica de un sistema de alto riesgo (art. 11.1) debe incluir entre otros elementos información detallada acerca de “los resultados no deseados previsibles y las fuentes de riesgo para la salud y la seguridad, los derechos fundamentales y la discriminación, en vista de la finalidad prevista del sistema de IA” (anexo IV de ese Reglamento europeo).
RkJQdWJsaXNoZXIy MjEzNzYz