Problemas jurídicos para controlar la discriminación algorítmica 104 ción del algoritmo. El juez, entonces, debería examinar su validez, teniendo como uno de los parámetros en tal labor el susodicho principio de igualdad y no discriminación. No obstante, aún semeja que estas ideas todavía no se han asentado en la práctica y no se están produciendo estos controles que reclamamos. • Con relación al ámbito privado, en él también se generan normas jurídicas, normalmente ligadas a la autonomía de la voluntad. De este modo, los negocios jurídicos (como, por ejemplo, los contratos) establecen determinadas reglas que vinculan a las partes de dicha actuación. En este sentido, también se puede ver cómo los algoritmos se aplican en este sentido para tomar decisiones o establecer consecuencias, por lo que de nuevo estamos en lo comentado antes, sobre su índole de norma jurídica. Ello nos lleva otra vez a la necesidad de que exista un control jurisdiccional de dichas normas-algoritmos, que se residenciará esta vez en el ámbito civil, laboral o mercantil. De particular interés, también para el caso anterior, será el control de la aplicación del algoritmo-norma pues se podrá detectar de forma más clara sus posibles errores en la práctica, lo que es a la postre lo que nos interesa en lo referido a la posible discriminación. • En términos igualmente jurídicos, nos topamos con la figura de la responsabilidad jurídica. Se trata de una antigua categoría ligada a la justicia distributiva. El que causa un da o a otro debe reparar dicho da o. Una idea sencilla y asentada que opera en el ámbito público y privado. De esta forma, a los autores de un algoritmo que provoca da o al discriminar se les podría reclamar responsabilidades con base en los negativos efectos causados por la discriminación. Sin duda es más difícil articular en la práctica esta responsabilidad a causa de la intervención de una pluralidad de sujetos y por la lógica ya vista del sistema de aprendizaje autónomo, pero también tenemos soluciones jurídicas que podrían solventar tal obstáculo, como atribuir la responsabilidad de forma presunta u objetiva cuando no es posible fijar un nexo causal directo que determinara la imputabilidad de la acción.
RkJQdWJsaXNoZXIy MjEzNzYz