325 Renato Sebastiani-León Mazza y María Eugenia-Zevallos Loyaga presión, las consecuencias éticas de las IA deben ir orientadas con los derechos humanos, así mismo, deben generarse espacios donde la sociedad civil pueda dar observaciones (Alvarez, 2023, p. 26). En el mismo hilo de ideas, la Unesco (2021, p. 13-17), realizó recomendaciones para el desarrollo y reglamentación de los sistemas de IA en las diferentes etapas de vida de la IA y ámbitos donde se incorporé, estas con el objetivo de que todo avance tecnológico debe ir alineado en el servicio de la humanidad con fines pacíficos, y es que, los Estados como garantes de los derechos humanos, deben incorporar mecanismos que permitan exigir a los actores de IA que adecuen los sistemas y datos usados sin incurrir en estereotipos y algoritmos sesgados sea por una acción directa o indirecta, con el propósito de no reforzar prejuicios, además que, se incorpore la participación de comunidades, grupos marginados y pueblos indígenas en el respeto de la autonomía de sus datos. Por lo cual, un país con miras a reglamentar e incorporar la IA a su sistema normativo y políticas públicas, entre sus estrategias, debe implementar mesas de colaboración con los sectores de interés, con el propósito de co-crear directrices de ética para la I.A (Flórez, 2023). El investigador García (2019, p. 18), propuso que los principios que deben regir el dise o de una IA debe tener: (i) La IA debe respetar la autonomía humana conforme a los estándares en materia de derechos humanos y no debe integrarse por ningún tipo de discriminación, (ii) La IA debe ser transparente conforme a la explicabilidad y trazabilidad en el sistema de respuesta, (iii) El dise o de la IA debe contar con rendición de cuenta e identificar la responsabilidad por da os y perjuicios, aun cuando la IA sea autónoma no exime de responsabilidad, (iv) La IA debe contar con algoritmos suficientemente seguros y sólidos para dar seguridad y robustez para impedir fallos técnicos y ciberataques, y (v) El dise o de la IA debe tener una participación de grupos de interés, con el objetivo de recabar datos que permita a la IA prevenir actos de discriminación hacia determinados grupos, conforme al principio de no discriminación y justicia. Ahora bien, estos principios éticos, se han incorporado progresivamente a diferentes países de América Latina y el Caribe en 2023, como:
RkJQdWJsaXNoZXIy MjEzNzYz