Discriminación algorítmica: un análisis jurídico de los desafíos y oportunidades en la era digital 58 La denominada IA generativa, en sentido estricto, no es propiamente “generativa”, en realidad, como dijimos supra, lo que esta hace es buscar información en los macrodatos (big data) y confeccionarla en el estilo que se le ha pedido. No desarrolla conceptos o análisis nuevos, repite lo que encuentra, dandole una forma atractiva. Y, como se alamos en el Marco Teorico, cuanto más repetida encuentra una nocion o una hipotesis, mas la considera legitima y valida. Mas que “generativa”, se la podria llamar “reforzadora”, en el sentido de que reordena los contenidos existentes, contribuyendo a consolidarlos, muchas veces sin controlar si tienen errores o prejuicios. De este modo, se corre el riesgo de legitimar un sesgo discriminatorio y robustecer la ventaja de un sector o grupo dominante. 5.2 Transparencia y explicabilidad de los algoritmos La transparencia y la explicabilidad son esenciales para garantizar que los algoritmos no discriminen. Sin embargo, muchos algoritmos, especialmente aquellos basados en AA, son cajas negras cuyos procesos internos no son fácilmente comprensibles. Esto dificulta la identificación y corrección de sesgos. El metodo de calculo del algoritmo no esta dotado ni de objetividad ni de neutralidad. Al estar basado en el algebra puede examinar solo realidades formalizadas en terminos numericos, por lo cual, la transparencia y explicabilidad del desarrollo del sistema experto son esenciales para prevenir y abordar la discriminación algorítmica. Los algoritmos diseñados para resolver problemas muy complejos son sofisticados de tal manera que hacen muy dificil a los propios programadores la comprension exacta de como estos sean capaces de alcanzar sus resultados. Esta tendencia a la sofisticacion corre el riesgo de acelerarse notablemente con la introduccion de los ordenadores cuanticos que no operan con circuitos binarios (semiconductores o microchips), sino segun las leyes, bastante articuladas, de la fisica cuantica. Al proporcionar información clara y comprensible sobre los datos, los modelos y las decisiones, se facilita la detección y corrección de sesgos, se asegura el cumplimiento de las normativas legales y se fomenta la confianza pública en los sistemas automatizados.
RkJQdWJsaXNoZXIy MjEzNzYz