(Des)igualdade, viés e discriminação algorítmica: os direitos humanos entre equidade, imparcialidade e não-discriminação 160 Diante deste cenário de proliferação dos algoritmos, o presente trabalho propõe as seguintes indagações: em que medida a IA e as novas tecnologias podem provocar injustiças e violações de direitos humanos no que tange ao princípio da igualdade? Como devemos compreender a igualdade para abordarmos possíveis violações de direitos humanos com o uso de sistemas de IA? Como podem violar a dignidade da pessoa humana? Em termos práticos, subsídios para se responder a essas questões podem ser encontrados em exemplos já vivenciados em nosso cotidiano, como a dependência excessiva de sistemas automatizados de tomada de decisão podem introduzir viés e discriminação, afetando desproporcionalmente grupos minoritários e vulneráveis. O viés algorítmico é o ponto que se pretende destacar com o uso crescente de sistemas de IA. Esses sistemas podem acirrar desigualdades ao reproduzir e amplificar preconceitos históricos presentes nos dados com os quais os sistemas são treinados, resultando emdiscriminações sistemáticas e injustas que afetam desproporcionalmente grupos já marginalizados. Algoritmos podem ser treinados com conjuntos de dados enviesados, refletindo preconceitos e discriminações presentes na sociedade. Isso pode resultar em decisões discriminatórias em áreas como emprego, crédito e justiça criminal, afetando de maneira desigual grupos minoritários. Além de mapear possíveis violações de direitos com o uso da IA, o objetivo deste trabalho é mostrar que a igualdade deve ser compreendida a partir das dimensões da equidade, da imparcialidade e da não discriminação. Sistemas de IA devem ser programados para atuar dentro do espectro dado por essas dimensões, com o intento de garantir que todos os seres humanos possam ser tratados, efetivamente, como iguais. A presente pesquisa consiste em uma revisão bibliográfica. A partir de uma abordagem do tipo qualitativa e exploratória, pretende-se discutir os fundamentos da igualdade em sua relação com a justiça e os direitos humanos, visando refletir sobre parâmetros normativos para se mitigar ou evitar possíveis impactos negativos da IA sobre os direitos humanos. A pesquisa almeja contribuir com o debate acadêmico acerca das medidas mais adequadas a serem tomadas para garantir que o desenvolvimento e o uso dessas tecnologias sejam guiados por princípios éticos, pela centralidade da pessoa humana e pelo respeito aos direitos humanos fundamentais.
RkJQdWJsaXNoZXIy MjEzNzYz