(Des)igualdade, viés e discriminação algorítmica: os direitos humanos entre equidade, imparcialidade e não-discriminação 166 Os direitos humanos promovem a equidade e a justiça social, visando reduzir as desigualdades e assegurar que todas as pessoas tenham acesso aos mesmos direitos e oportunidades. No desenvolvimento e uso de sistemas de IA, é imprescindível considerar o impacto potencial dessas tecnologias sobre grupos vulneráveis e marginalizados, buscando mitigar qualquer efeito negativo e contrário à ideia de que todos os seres humanos nascem livres e iguais. O uso de sistemas de inteligência artificial levanta uma série de questões éticas, políticas e legais que se tornam ainda mais complexas à medida que evoluímos para a IA geral ou até mesmo para a IA superinteligente. A implementação dessas tecnologias pode acarretar injustiças e sérios riscos para os direitos humanos, com impactos particularmente negativos sobre a igualdade e também sobre os direitos individuais (Donahoe; Metzger, 2019; Leslie, 2021; Liao, 2020; Livingston; Risse, 2019; O’Neil, 2020; Rafanelli, 2022; Roumate, 2021; Tzimas, 2021). Os desafios relacionados à equidade e à justiça são evidentes, uma vez que os sistemas de IA têm o potencial de exacerbar desigualdades existentes, criar novas formas de discriminação e influenciar injustamente a distribuição de oportunidades e recursos 3. DIREITOS HUMANOS E IGUALDADE: ALGUMAS DISTINÇÕES CONCEITUAIS O avanço das novas tecnologias e da IA apresenta desafios significativos para a proteção dos direitos humanos e para a promoção da igualdade. Os algoritmos, que são a base desses sistemas tecnológicos, têm o potencial de refletir e até amplificar preconceitos preexistentes na sociedade, resultando em decisões parciais e tendenciosas que podem ser reproduzidas em sistemas automatizados de justiça e outras áreas críticas. Essa amplificação de preconceitos pode comprometer a igualdade de tratamento e a dignidade de indivíduos e grupos, perpetuando injustiças e desigualdades que os direitos humanos buscam erradicar. Mas, como implementar sistemas igualitários? De qual igualdade estaríamos a falar? Para tentar responder a essas perguntas, pretende-se, primeiramente, caracterizar a igualdade enquanto um direito humano, para, em seguida, destacar a distinção entre equidade, imparcialidade e não-discriminação, conceitos inter-relacionados que se unem para constituir a justiça a
RkJQdWJsaXNoZXIy MjEzNzYz