(Des)igualdade, viés e discriminação algorítmica: os direitos humanos entre equidade, imparcialidade e não-discriminação 174 rantir a imparcialidade requer um esforço contínuo para monitorar, avaliar e ajustar algoritmos de maneira que reflitam valores justos e equitativos. Dessa forma, a imparcialidade não só promove a justiça, mas também fortalece a confiança do público nas decisões tomadas por sistemas automatizados, contribuindo para uma sociedade mais justa e equitativa 3.2.3 Justiça e não-discriminação A justiça e a igualdade estão ligadas, ainda, à ideia de não- -discriminação, que garante a igualdade de tratamento e oportunidades para todas as pessoas, independentemente de características como raça, cor, gênero, orientação sexual, religião, nacionalidade, origem étnica, idade, deficiência ou qualquer outra condição pessoal. Esse princípio vai além de exigir igualdade positiva; ele impõe uma obrigação negativa aos destinatários desse direito, exigindo que todos se abstenham de discriminar e fornecer tratamento desigual com base em critérios como raça, sexo, idade, origem nacional ou étnica, religião, orientação sexual, deficiência, entre outros. O objetivo é assegurar que ninguém seja alvo de discriminação injusta ou tratamento diferenciado, evitando exclusões sociais e garantindo a igualdade de acesso a bens, direitos, instituições legais e ao sistema de justiça. Benjamin (2019) explora como as tecnologias emergentes, incluindo a inteligência artificial e a análise de dados, interagem com questões de raça e justiça social, analisando como as inovações tecnológicas, longe de serem neutras, muitas vezes reproduzem e até exacerbam desigualdades raciais e sociais existentes. Ela introduz o conceito de “New JimCode”, uma metáfora que compara os sistemas tecnológicos contemporâneos ao Jim Crow, um conjunto de leis e práticas discriminatórias que foram usadas para manter a segregação racial nos Estados Unidos. Ela argumenta que, assim como o Jim Crow institucionalizou a discriminação racial, as tecnologias modernas podem codificar e reforçar preconceitos raciais e outras formas de desigualdade através de algoritmos e sistemas automatizados. No mesmo sentido, Benthall e Haynes (2019) examinam a forma como as categorias raciais são utilizadas para a tomada de decisões automatizadas, abordando como isso pode afetar a justiça e a
RkJQdWJsaXNoZXIy MjEzNzYz