(Des)igualdade, viés e discriminação algorítmica: os direitos humanos entre equidade, imparcialidade e não-discriminação 172 des dos grupos sociais. Os sistemas de IA devem ser projetados para promover a distribuição justa e equidade, reduzindo disparidades e injustiças sociais, em vez de simplesmente replicar ou amplificar as desigualdades existentes. Nesse sentido, Binns (2018) explora os principais conceitos relacionados à justiça e equidade em sistemas de aprendizado de máquina. Do mesmo modo, Barocas, Hardt e Narayanan (2023) exploram os desafios da justiça associados à criação de sistemas de IA, além de propor abordagens e soluções para mitigar as desigualdades e discriminações que podem surgir com o uso dessas tecnologias. Pensemos na distribuição de recursos públicos realizada a partir da IA, como a concessão de um benefício. Se procura ser equânime, essa distribuição deve levar em conta a diferença entre as pessoas, de modo que todos são iguais em direitos e deveres, mas, se trouxer benefícios compensatórios para a sociedade, discriminações positivas (ou ações afirmativas) podem ser implementadas para corrigir desigualdades históricas e estruturais enfrentadas por grupos marginalizados ou desfavorecidos. Esses grupos podem incluir minorias raciais, mulheres, pessoas com deficiência, entre outros. No contexto tecnológico, isso implica a criação de algoritmos que não sejam enviesados e na utilização de dados representativos de toda a população, assegurando que as decisões automatizadas beneficiem, de fato, todos os segmentos da sociedade. 3.2.2 Imparcialidade na tomada de decisão A justiça enquanto igualdade também está ligada à ideia de imparcialidade na tomada de decisões e no julgamento de conflitos, especialmente quando envolve lados antagônicos. Esse conceito refere-se à capacidade de agir ou julgar sem favorecer nenhuma das partes envolvidas, garantindo a ausência de preconceitos, interesses pessoais ou influências externas que possam distorcer a percepção ou o julgamento. Em essência, imparcialidade significa a ausência de favoritismo e a aplicação justa e igualitária de critérios objetivos. Proceder de forma imparcial implica adotar uma posição neutra e objetiva, em que preferências pessoais não influenciam decisões ou ações. Por exemplo, um juiz imparcial deve basear suas decisões apenas nas evidências apresentadas, aplican-
RkJQdWJsaXNoZXIy MjEzNzYz