Problemas jurídicos para controlar la discriminación algorítmica 100 particulares del entorno geográfico, contextual, conductual o funcional específico en el que esté previsto que se utilice el sistema de IA” (considerando 67). El art. 10.4 de esta norma reproduce estas ideas. Además, las amplía en el art. 10.3 con esta literalidad: “Los conjuntos de datos de entrenamiento, validación y prueba serán pertinentes, suficientemente representativos y, en lamayor medida posible, carecerán de errores y estarán completos en vista de su finalidad prevista. Asimismo, tendrán las propiedades estadísticas adecuadas, por ejemplo, cuando proceda, en lo que respecta a las personas o los colectivos de personas en relación con los cuales está previsto que se utilice el sistema de IA de alto riesgo. Los conjuntos de datos podrán reunir esas características para cada conjunto de datos individualmente o para una combinación de estos.” • Las administraciones públicas deben dotarse de capacidades suficientes para afrontar con corrección los desafíos del progreso tecnológico. Esto significa mejoras de recursos humanos, materiales y organizacionales, en un salto cualitativo que exige el tiempo nuevo que abren las tecnologías disruptivas. Ya citamos más arriba la necesidad de aumentos presupuestarios, de la formación y capacitación de los servidores públicos, lo que no sólo incluye habilidades técnicas sino también conocimientos jurídico-constitucionales y éticos con relación al empleo de sistemas algorítmicos. También deberían mejorarse la gobernanza de datos del poder público para que se robustezcan los principios de confidencialidad, integridad y disponibilidad de los datos que se manejan. En esta línea en Espa a la normativa sobre igualdad impone que las administraciones públicas “favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones” que ellas utilicen “tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas” (art. 23.1 Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación.). No obstante, en ese lugar se prevé una limitación un tanto excesiva ya que lo dicho se matiza “siempre que sea factible técnicamente”. Además, se preceptúa que “en estos mecanismos se incluirán su dise o y datos de entrenamiento, y abordarán su po-
RkJQdWJsaXNoZXIy MjEzNzYz