(Des)igualdade, viés e discriminação algorítmica: os direitos humanos entre equidade, imparcialidade e não-discriminação 162 Dentre os principais problemas a serem apontados, o viés algorítmico vem chamando a atenção por causa dos seus efeitos negativos que o sistema com IA poderão causar à dignidade da pessoa humana. Em linhas gerais, o viés algorítmico consiste na tendência dos algoritmos para gerar resultados enviesados ou discriminatórios, devido aos preconceitos que estão presentes nos dados utilizados para seu treinamento ou nas regras estabelecidas para suas decisões. Esses algoritmos podem incorporar e refletir as desigualdades e preconceitos que existem na sociedade, resultando em decisões injustas em diversas áreas, como recrutamento de pessoal, concessão de crédito, sistema de justiça criminal e cuidados de saúde. Por exemplo, se um algoritmo de contratação é treinado com dados históricos que mostram uma preferência por candidatos de um determinado gênero ou raça, ele pode perpetuar essas preferências de forma sistemática. O viés algorítmico tem o potencial de reforçar e até aumentar as desigualdades existentes, exacerbando discriminações relacionadas a gênero, idade, raça, etnia e outras características, e, assim, aprofundar as desigualdades sociais em vez de mitigá-las. A partir do viés, os algoritmos podem perpetuar e até amplificar estereótipos e preconceitos, contribuindo para a intensificação das desigualdades já presentes na sociedade. Um exemplo claro disso é quando um algoritmo de reconhecimento facial é treinado predominantemente com imagens de pessoas de uma etnia específica. Esse treinamento desigual pode levar o algoritmo a ter dificuldades em identificar com precisão indivíduos de outras etnias, resultando em erros sistemáticos e discriminação implícita. Como consequência, o sistema pode gerar interpretações enviesadas e imprecisas, refletindo práticas discriminatórias que reforçam preconceitos existentes e prejudicam grupos marginalizados. Dessa forma, a falha na inclusão de diversidade nos dados de treinamento não só compromete a precisão dos algoritmos, mas também perpetua e amplifica desigualdades e preconceitos, afetando negativamente a justiça e a equidade social. Em paralelo, a automação, impulsionada pela IA, tem o potencial de eliminar empregos em diversos setores, afetando de maneira desproporcional os grupos socioeconômicos mais vulneráveis. Conformemáquinas e algoritmos substituem tarefas realizadas por trabalhadores humanos, setores como manufatura, transporte e
RkJQdWJsaXNoZXIy MjEzNzYz