83 José Julio Fernández Rodríguez neral, entonces el resultado también poseerá esas características8. Ello se produce, como ya dijimos, aunque la lógica de ese sistema sea correcta y neutral. De nuevo en palabras de la autora anterior: “La discriminación puede surgir cuando las decisiones algorítmicas se basan en datos históricos, que normalmente incorporan asimetrías, estereotipos e injusticias, porque en el pasado existieron más desigualdades”. Esta preocupación también se detecta en el citado Reglamento UE 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial: “Los datos de alta calidad y el acceso a datos de alta calidad desempe an un papel esencial a la hora de proporcionar una estructura y garantizar el funcionamiento de muchos sistemas de IA, en especial cuando se emplean técnicas que implican el entrenamiento de modelos, con vistas a garantizar que el sistema de IA de alto riesgo funcione del modo previsto y en condiciones de seguridad y no se convierta en una fuente de algún tipo de discriminación prohibida por el Derecho de la Unión” (considerando 67). Estos conjuntos de datos deben tener “propiedades estadísticas adecuadas” para que no den lugar a algún tipo de discriminación. A esto se a ade en el mismo lugar que “los sesgos, por ejemplo, pueden ser inherentes a los conjuntos de datos subyacentes, especialmente cuando se utilizan datos históricos, o generados cuando los sistemas se despliegan en entornos del mundo real”. De esta forma, “los resultados de los sistemas de IA dependen de dichos sesgos inherentes, que tienden a aumentar gradualmente y, por tanto, perpetúan y amplifican la discriminación existente, en particular con respecto a las personas pertenecientes a determinados colectivos vulnerables, incluidos colectivos raciales o étnicos”. Entonces, ¿la solución pasa por aplicar la lógica de la discriminación positiva en la construcción del algoritmo, para que reajuste la realidad discriminatoria a partir de la diversidad? Es decir, que el dise o del algoritmo contemple una adaptación para paliar la presunta desigualdad que existe en la realidad fáctica de los datos de partida. Sin embargo, frente a este ajuste artificial quizá alguien plantee el problema de que el verdadero interés radica precisamente en la correcta gestión de los datos tal y como proceden del mundo 8 Ejemplos de ello pueden consultarse en https://www.techtarget.com/search softwarequality/definition/garbage-in-garbage-out.
RkJQdWJsaXNoZXIy MjEzNzYz