51 Pablo Rafael Banchio ción de perfiles, que produzcan efectos jurídicos o afecten significativamente al interesado (artículo 22 Reglamento 2016/679). También se otorgan a los individuos ciertos derechos sobre sus datos personales, como el derecho de acceso, rectificación y supresión. Estos derechos podrían utilizarse para impugnar la discriminación algorítmica basada en el uso de datos personales sesgados, aunque por el fenómeno ya visto de “caja negra” la prueba procesal es de muy difícil instrumentación. Además, la propuesta de la Ley de Inteligencia Artificial de la UE (AI Act) busca regular el uso de algoritmos de AA, estableciendo requisitos de transparencia, seguridad y no discriminación. Entre las medidas más relevantes en materia de discriminación algorítmica, el Reglamento clasifica los sistemas, establece requisitos estrictos para garantizar la responsabilidad y ausencia de sesgos y prohíbe los usos de la IA que supongan un riesgo inaceptable para los derechos fundamentales como los sistemas de vigilancia biométrica masiva en tiempo real en espacios públicos y los sistemas de puntuación social (scoring). Los sistemas de IA clasificados como de alto riesgo están sujetos a estrictos requisitos antes de poder comercializarse y deben superar una rigurosa evaluación de conformidad. Entre ellos figuran la gestión de datos, con requisitos sobre la calidad de los datos utilizados para entrenar los sistemas; la documentación y trazabilidad, con la necesidad de mantener registros detallados y diarios de operaciones; la transparencia e información a los usuarios, que deben ser informados de que están interactuando con un sistema de IA; y la seguridad y solidez, con sistemas dise ados para ser seguros y fiables. Para los sistemas de IA con riesgo limitado y mínimo, la AI Act prevé requisitos de transparencia menos estrictos, como la obligación de informar a los usuarios de que están interactuando con un sistema inteligente. b) En Estados Unidos, la legislación es más fragmentada. Aunque existen leyes contra la discriminación, como la Ley de Derechos Civiles de 1964 no hay una regulación específica que aborde la discriminación algorítmica.
RkJQdWJsaXNoZXIy MjEzNzYz