175 André Olivier equidade dos modelos manipulados por sistemas de aprendizado de máquina. Eubanks (2018) examina como ferramentas tecnológicas, como algoritmos e sistemas automatizados, são utilizadas para monitorar e gerenciar populações vulneráveis, particularmente pessoas de baixa renda. Veale e Binns (2017) exploram estratégias para reduzir a discriminação em sistemas de aprendizado de máquina e destacam a necessidade de a privacidade nunca seja invadida para coletar dados sensíveis. A luta contra a discriminação é essencial para a defesa dos direitos humanos e envolve medidas para prevenir, combater e erradicar todas as formas de discriminação e desigualdade. É necessário distinguir a discriminação negativa de outros conceitos, como a discriminação positiva, que semanifesta por meio de ações afirmativas. Estas ações buscam corrigir desigualdades históricas ou estruturais, concedendo oportunidades adicionais a grupos historicamente desfavorecidos sem prejudicar outros grupos. Enquanto a ação afirmativa visa promover a igualdade, a discriminação negativa prejudica ou desfavorece certos grupos com base em características pessoais. A discriminação negativa se refere a práticas, políticas ou comportamentos que prejudicam ou desfavorecem um indivíduo ou grupo com base em características específicas, como raça, gênero, religião, orientação sexual, entre outros. Exemplos dessas práticas incluem a recusa de emprego a alguém por causa de sua religião, a negação de serviços ou oportunidades educacionais com base em características pessoais, ou até mesmo a violência física ou verbal direcionada a um grupo específico. O princípio da não-discriminação proíbe a discriminação negativa, pois esta contraria os princípios de igualdade e justiça e é frequentemente considerada ilegal em muitas jurisdições, sendo regulamentada por leis antidiscriminatórias. A discriminação negativa perpetua desigualdades sociais e contribui para a marginalização e exclusão de grupos vulneráveis. No contexto da inteligência artificial, o conceito de não-discriminação é essencial para garantir que os sistemas de IA não discriminem com base em características protegidas, como raça, gênero, etnia, religião, orientação sexual, idade, deficiência ou outras características pessoais. Isso significa que os algoritmos devem ser desenvolvidos e aplicados de forma a evitar vieses e discriminações, assegurando que todas as pessoas sejam tratadas de maneira jus-
RkJQdWJsaXNoZXIy MjEzNzYz