Sesgos en la era digital: desigualdad algorítmica y pueblos indígenas 336 chos pueblos indígenas en el mundo no gozaban del mismo nivel de protección de sus derechos que otras personas. Estos pueblos eran discriminados por su etnia, costumbres y perspectivas. Uno de los objetivos principales de este instrumento es fortalecer la cultura y la vida comunal de los pueblos indígenas, y asegurar su participación en decisiones que los afecten. En este contexto, se evidencia que los sistemas de IA, al realizar el proceso de alimentación y entrenamiento sin un adecuado proceso de participación y suministro de información a los pueblos indígenas, pueden vulnerar sus derechos colectivos. Además, es importante tener en cuenta que lamayoría de los sistemas algorítmicos son financiados por el sector empresarial con fines lucrativos. Por lo tanto, existe un beneficio en la mejora de la IA, en tal sentido, los pueblos que proporcionan datos, tales como cultura, costumbres y conocimientos ancestrales, deberían ser indemnizados equitativamente por los da os que pudieran sufrir durante el proceso de entrenamiento y a lo largo del ciclo de vida de la IA. 3. CONSIDERACIONES FINALES - Se entiende por IA, a aquellos sistemas que, al procesar la información son capaces de replicar las acciones humanas y ofrecer probables soluciones en los diversos contextos de la vida humana, lo que la conecta indefectiblemente con el derecho, sobre todo, en el hecho que su utilización inadecuada, podría vulnerar derechos humanos. Esto se evidencia, por ejemplo, en el hecho de la incorporación de algoritmos con sesgos discriminatorios, que usualmente resultan atentatorios, más aún en poblaciones vulnerables, como lo son los pueblos indígenas. - En América Latina y el Caribe, las entidades estatales de diversos países están impulsando fuertemente la necesidad de generar reglamentos para el dise o y uso de los sistemas de IA. Existe una necesidad imperiosa de incorporar principios éticos y guiarse por los estándares de derechos humanos, abarcando temas como equidad e inclusión, no discriminación, protección cultural, privacidad, entre otros. El objetivo es centrarse en la protección de la persona humana, de acuerdo con los instrumentos internacionales que
RkJQdWJsaXNoZXIy MjEzNzYz