Problemas jurídicos para controlar la discriminación algorítmica 78 tos más favorables a los hombres que a las mujeres. Un tercer caso que citamos del sector privado se refiere al algoritmo Frank usado por Deliveroo para categorizar a sus empleados. Un tribunal italiano consideró en 2020 que dicho sistema discriminaba por no valorar las causas de fondo de las ausencias al trabajo (era lo mismo no acudir al trabajo por desobediencia que por una enfermedad) (sobre este caso, Oliva León. 2021). Ricard Martínez recoge parte del análisis del grupo de trabajo sobre “Inteligencia artificial y desarrollo humano” de la Cátedra de Privacidad y Transformación Digital Microsoft-Universidad de Valencia, en el que se indican impactos en la igualdad a causa de sesgos en los algoritmos, como en procesos de selección de personal o de evaluación de la calidad de presencia laboral (que pueden originar despidos injustos) o en programas de asistencia en seguridad pública que inclinan a la policía a la detención deminorías (Martínez Martínez, 2019, 68-69). De igual modo, el citado Reglamento UE 2024/1689, reconoce que “al margen de los múltiples usos beneficiosos de la IA, esta también puede utilizarse indebidamente y proporcionar nuevas y poderosas herramientas para llevar a cabo prácticas de manipulación, explotación y control social”. Ello lo concreta en prácticas contrarias, entre otros extremos, al derecho a la no discriminación (considerando 28). Y un poco más adelante se lee que “los sistemas de IA que permiten a agentes públicos o privados llevar a cabo una puntuación ciudadana de las personas físicas pueden tener resultados discriminatorios y abocar a la exclusión a determinados colectivos”, al menoscabar el derecho a la dignidad y a la no discriminación y los valores de igualdad y justicia (considerando 31). La Unión Europea pretende una inteligencia artificial confiable, que sirva para el progreso, pero siempre en el respeto de los derechos fundamentales, un ejemplo para otras regiones del planeta. Por ello ha aprobado un complejo y extenso reglamento sobre la inteligencia artificial, no exento de aspectos críticos en los que ahora no podemos detenernos. En suma, tomando las palabras Relator Especial de Naciones Unidad sobre la extrema pobreza y los derechos humanos, Philip Alston, la ausencia de cautelas en lo que estamos considerando puede dar lugar a que caigamos como un zombi en la distopía del bienestar digital (“to avoid stumbling zombie-like into a digital welfare
RkJQdWJsaXNoZXIy MjEzNzYz