(Des)igualdade, viés e discriminação algorítmica: os direitos humanos entre equidade, imparcialidade e não-discriminação 164 O COMPAS é uma ferramenta de avaliação de risco usada no sistema de justiça criminal dos Estados Unidos para ajudar na tomada de decisões sobre sentenças e liberação condicional. O COMPAS utiliza algoritmos para analisar dados históricos e respostas a questionários a fim de prever a probabilidade de reincidência de um indivíduo. Embora tenha sido projetado para melhorar a precisão das decisões judiciais, o COMPAS enfrenta críticas significativas devido a preocupações sobre transparência e viés, levantando questionamentos sobre possíveis preconceitos raciais e sociais incorporados nos algoritmos, sugerindo que o sistema pode, inadvertidamente, amplificar desigualdades existentes e afetar injustamente certos grupos. A exclusão sistemática de grupos vulneráveis do acesso ao conhecimento e à sua capacidade de contribuir com conhecimento válido e respeitado pode ocasionar desigualdades de ordem epistêmica. Injustiça epistêmica é um conceito3 que se refere a desigualdade na participação de indivíduos ou grupos na produção e disseminação de conhecimento. Em muitos contextos, essas comunidades e grupos vulneráveis enfrentam a negação do reconhecimento e valorização de suas próprias perspectivas e conhecimentos. Além disso, suas crenças e experiências frequentemente são desacreditadas, ignoradas ouminimizadas, prejudicando a validade e a legitimidade do que têm a oferecer. Grupos historicamente marginalizados, como minorias étnicas, mulheres, pessoas LGBTQ+, e pessoas com deficiência, são frequentemente mais afetados por tais injustiças no contexto da IA. Neste ambiente automatizado, essa injustiça epistêmica pode manifestar-se através da falta de representação desses grupos nas equipes de desenvolvimento de algoritmos e na criação de dados, resultando em sistemas que não consideram suas necessidades e experiências. Isso pode levar a uma maior exclusão, discriminação e marginalização desses grupos, exacerbando as desigualdades sociais já existentes e reforçando barreiras para o acesso equitativo ao conhecimento e às oportunidades proporcionadas pelas novas tecnologias. Quando influenciada por preconceitos implícitos ou dados enviesados, essa tecnologia pode perpetuar e até ampliar desigual3 Miranda Fricker (2007) explora a injustiça epistêmica, um conceito que trata das desigualdades na produção do conhecimento. A autora destaca como essas injustiças afetam a capacidade de certos indivíduos e grupos de serem ouvidos e de contribuírem plenamente para a construção do conhecimento.
RkJQdWJsaXNoZXIy MjEzNzYz