Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

337 Renato Sebastiani-León Mazza y María Eugenia-Zevallos Loyaga establecen estándares que pueden servir para la regulación de estas nuevas tecnologías. - Además, los procedimientos de datos que realizan los sistemas algorítmicos se basan en el procesamiento de razonamiento por parámetros y cálculos lógicos para responder a un planteamiento. Sin embargo, estos sistemas pueden producir resultados discriminatorios porque los parámetros pueden excluir, restringir o preferir características hegemónicas sin una justificación razonable y proporcional al objetivo de la respuesta. Esta actividad generada por la IA ha sido catalogada como discriminación indirecta o estructural, ya que tiende a crear situaciones de inferioridad o a reforzar roles discriminatorios a través de sus respuestas. - Los sistemas de inteligencia artificial (IA), enfrentan un gran desafío al tratar de representar adecuadamente la realidad de los pueblos indígenas. A menudo, la IA asigna atributos sesgados a estos pueblos y a otros grupos humanos en situación de vulnerabilidad. Esta discriminación indirecta se debe a la falta de diligencia en la implementación de parámetros adecuados, exacerbada por la insuficiencia de bases de datos específicas por parte del Estado o del sector privado. Es crucial que los desarrolladores de IA incluyan la participación informada sobre los riesgos asociados y consentida de los pueblos indígenas en el proceso de alimentación y entrenamiento de estos sistemas. Además, si el desarrollo de la IA genera beneficios económicos, los pueblos indígenas cuyos datos fueron utilizados deben recibir una compensación proporcional por el uso de su información cultural, entre otros aspectos. REFERENCIAS ALDANA, Julio; ISEA, Josía. Derechos Humanos y Dignidad. Iustitia Socialis: Revista Arbitrada de Ciencias Jurídicas y Criminalísticas, v. 3, n. 4, p. 8–23, ene./jun. 2018. Disponible en: https:// dialnet.unirioja.es/servlet/articulo?codigo=7049419. Acceso el: 19 jul. 2024.

RkJQdWJsaXNoZXIy MjEzNzYz