Sesgos en la era digital: desigualdad algorítmica y pueblos indígenas 322 ción de una IA centrada en la persona humana. En este sentido, la Comisión Europea, recomienda que los sistemas de IA deben ayudar a las personas a elegir mejor y con más conocimiento de causa en función de sus objetivos, tornándose en facilitadores de una sociedad, apoyando la intervención humana y los derechos fundamentales y no disminuir, limitar o desorientar la autonomía humana [...]. Esto significa que la regulación de la IA debe ser respetuosa con los derechos fundamentales. Especialmente, el uso de IA predictiva está siendo cuestionada por vulneraciones a los principios de igualdad y de no discriminación. Algunas bases de datos y algoritmos de sistemas inteligentes utilizados para actividades de seguridad estarían provocando casos inadmisibles de “discriminación algorítmica”. Al respecto, Castellanos (2023, p. 265), se ala que el uso de la AI, en las sociedades contemporáneas, y el origen de continuas controversias éticas y jurídicas sobre la responsabilidad y el proceso de toma de decisiones en cuanto a su uso e implementación, ha originado que se emitan diversos informes, documentos y trabajos de diversas tipologías, que abogan por la implementación de la IA en todos los aspectos de la vida, con especial énfasis en la reflexión ética y jurídica [...], y la incidencia de las tecnologías asociadas a la IA en los derechos fundamentales y humanos. Precisamente, es De Asís (2020, p.p. 7- 9), quién elaboró una interesante enumeración de aquellos documentos, a la cual, a continuación, se hace breve referencia: En mayo de 2018, se aprobó la Declaración de Toronto (firmada por Amnistía Internacional, Access Now, el Observatorio de Derechos Humanos y la Fundación Wikipedia, entre otros), la que se compone por tres secciones principales. En la primera, se establece el deber de los Estados de prevenir la discriminación en el dise o o la implementación de los sistemas de aprendizaje automático en contextos públicos o mediante asociaciones público-privadas. En la segunda sección, se describe las responsabilidades de los actores privados en el contexto del desarrollo y la implementación de sistemas de inteligencia artificial. Y en la tercera sección se afirma el derecho a un recurso efectivo y a llamar a cuentas a los responsables de las violaciones. [...] En octubre de 2018, la organización The Public Voice, aprobó las Directrices Universales para la Inteligencia Artificial, do-
RkJQdWJsaXNoZXIy MjEzNzYz