85 José Julio Fernández Rodríguez so de ensayo y error en el que el sistema evalúa su rendimiento con métricas específicas que permiten determinar si se cumple o no con los objetivos del problema. A medida que recibe retroalimentación de su rendimiento, podrá ajustar sus parámetros y, por ende, mejorar el desempe o. En esta fase puede recopilar más datos o modificar los parámetros del modelo. En todo caso, estos tipos de aprendizaje se revelan como imprescindibles para conseguir sistemas de inteligencia artificial robustos y con capacidad de adaptación a una variedad de aplicaciones y dominios. De esta forma, este machine learning hace evolucionar al sistema y a las soluciones que va ofreciendo, lo que puede desvincularlo de la situación de partida. Esto significa que una situación de partida insatisfactoria sería irrelevante en términos jurídicos pues los ulteriores resultados finales vienen dados por el proceso de aprendizaje. Lo que habría que controlar, en todo caso, sería este proceso y no los algoritmos iniciales. 4.5 La falta de transparencia El siguiente elemento que consideramos en nuestro hilo argumental, verdaderamente trascendental en lo que ahora nos ocupa, es la falta de transparencia, lo que sin duda dificulta sobremanera la lucha contra la discriminación algorítmica. Nos referimos a que habitualmente los algoritmos empleados en las aplicaciones más importantes son cajas negras que impiden su comprensión para los usuarios finales, aunque en ocasiones también para los propios desarrolladores. En efecto, se habla de una black box en el funcionamiento de estos sistemas en tanto en cuanto a partir de cierto momento los programadores no pueden predecir el concreto resultado, por lo que simplemente deben confiar en su correcto funcionamiento. La opacidad de los algoritmos es la norma (Cerrillo i Martínez, 2019, p. 17). Dicho en otros términos: “no presentan una correlación clara entre las características con las cuales funcionan y los resultados que obtienen”; se puede “rastrear lo que el algoritmo hizo durante el proceso de aprendizaje, pero no por qué lo hizo” (Marcazzolo; Walker apud Rocha Espíndola, 2023, p. 81).
RkJQdWJsaXNoZXIy MjEzNzYz