Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Problemas jurídicos para controlar la discriminación algorítmica 72 futura. “La realización del principio de igualdad, por su naturaleza general, no se satisfará con una simple actuación concreta del legislador postconstitucional, sino que reclama actuaciones horizontales, estrategias legislativas permanentes en el tiempo, presencia a la hora de elaborar los distintos sectores del ordenamiento jurídico, y aplicación de las normas a la realidad bajo la inspiración de dicho principio” (Fernández Rodríguez, 2017, p. 149). Lo que se excluye son desigualdades arbitrarias, las que no se pueden justificar en diferencias objetivas y razonables. Pero la igualdad también se considera un derecho subjetivo, que atribuye determinadas facultades a sus titulares. Este derecho supone igualmente el derecho a no ser discriminado, lo que se conforma como un elemento clave en una sociedad democrática avanzada, tolerante e inclusiva. La discriminación puede entenderse como una desigualdad especialmente grave por afectar a la dignidad de la persona (como el sexo, el género, la etnia o la religión). La pervivencia de discriminaciones en cualquier sociedad debilita de forma poderosa la convivencia y destruye las posibilidades de futuro de las personas víctimas de tales situaciones. De esta forma, se resiente la aplicación de los derechos y libertades y el sistema constitucional queda atenazado por esos graves problemas. El desarrollo de la sociedad tecnológica no está exento de estas situaciones y nos sigue ofreciendo verdaderas discriminaciones y desigualdades no justificadas que nos empobrecen como sociedad del siglo XXI. La cuarta revolución industrial genera una preocupación específica por la “desigualdad exacerbada”, con unos desafíos difíciles de cuantificar “dado que la gran mayoría de nosotros somos consumidores y productores, y la innovación y la disrupción afectan a nuestros niveles de vida y bienestar tanto de manera positiva como negativa” (Schwab, 2016, p. 26). Los impactos económicos y empresariales contribuyen al aumento de la desigualdad, que puede exacerbarse a medida que se despliega la cuarta revolución industrial (Schwab, 2016, p. 119); pero más allá de esta iniquidad socioeconómica habrá una desigualdad ontológica entre los que se adaptan a los cambios y los que se resisten (Schwag, 2016, p. 126). Por lo tanto, los problemas para la igualdad no parece que mengüen con el progreso tecnológico, sino que se incrementarán.

RkJQdWJsaXNoZXIy MjEzNzYz