333 Renato Sebastiani-León Mazza y María Eugenia-Zevallos Loyaga fiere a determinado grupo humano vulnerable, se omiten variables propias de su realidad, el cual es compleja e interseccional, y esto es resultado de querer simplificar el proceso (Flores, 2023, p. 7). Este sesgo, es de mayor preocupación, si una entidad pública, incorpora una IA, ya que, puede generar impactos no deseados en individuos y grupos vulnerables, sea por un sesgo latente el cual es generado por correlaciones inapropiadas entre los datos como el color, poder adquisitivo, o también por el sesgo de selección el cual es generado si la base de datos no cuenta con suficientes de la diversidad existentes (García, 2022, p. 5). Esto es ocasionado en la etapa de entrenamientos de la IA, cuando los datos usados no son representativos de la población, o si las características asociadas no son distintas, va a generar una imagen distorsionada de la realidad, produciendo y reforzando estereotipos y desigualdades (Unesco, 2023, p. 15). De esta manera, los pueblos indígenas se encuentran sumergidos en diferentes retos para salvaguardar y hacer valer sus derechos colectivos. Entre las primeras problemáticas que se identifican, es la poca representación que se tiene en la esfera digital o como también sesgada e inexacta representación, un ejemplo de ello resaltada por el investigador Mu oz (2021, p. 22), donde mediante una comparativa entre la búsqueda de hombres chilenos y hombres mapuches, daban resultados diferentes, en la primera búsqueda daba resultados a personas blancas, sonriendo y posando, como también en los botones de sugerencia catalogaba a jóvenes, famosos normales, actores, en comparación a la segunda búsqueda, dando resultado a ni os y mujeres que se encontraban representando a personas enojadas o en confrontación, con vestimentas y en contextos culturales, como también en los botones de sugerencia catalogaba vestimentas, historia, tradición, guerra. Ahora bien, al realizar una búsqueda sobre como la IA genera imágenes de una persona indígena, se ha identificado a Dall-E 3, el cual funciona realizando prompt inicial el cual es la instrucción, es decir el resultado que esperas tener, y la IA en base a sus parámetros sobre ello, va a dar imágenes. El primer ejemplo, tuvo como Prompt la instrucción de crear una imagen realista de una persona trabajadora del hogar, dando como resultado cuatro imágenes de personas blancas entre varones
RkJQdWJsaXNoZXIy MjEzNzYz