161 André Olivier 2. DESIGUALDADE, VIÉS E DISCRIMINAÇÃO ALGORÍTMICA O avanço das tecnologias e a implementação crescente de sistemas de IA apresentam desafios complexos que podem impactar a justiça e os direitos humanos, em especial o valor da igualdade. Como costuma ocorrer com a distribuição de quaisquer outros bens e recursos, o acesso a essa nova tecnologia pode ser desigual, vindo a exacerbar divisões sociais, econômicas e políticas já existentes na sociedade. Os obstáculos no acesso a recursos tecnológicos, como internet de alta velocidade e dispositivos conectados, comprometem a igualdade de oportunidades para grupos vulneráveis, acentuando, na era digital, a segregação e a marginalização que já existiam no mundo analógico. O uso das novas tecnologias pode provocar desigualdade, viés e discriminação, razão pela qual pretende-se, neste primeiro momento, descrever e mapear casos práticos de violação dos direitos de igualdade com o uso de sistemas de IA. No campo da IA, é preciso destacar o aprendizado de máquina, que envolve o desenvolvimento de algoritmos capazes de aprimorar seu desempenho por meio da análise preditiva de dados, sem a necessidade de programação específica para cada tarefa (Russell, 2021; 2022; Searle, 2014). Esses algoritmos são conjuntos finitos de instruções precisas e definidas, projetados para resolver problemas ou realizar tarefas específicas. Cada algoritmo é criado para processar dados de entrada, executar um processamento interno e gerar resultados, enquanto aprende e descobre padrões e regras ao longo do processo. A aplicação desses algoritmos visa a otimização de processos e a resolução de problemas de maneira eficiente, com usos práticos em áreas como processamento de linguagem natural, consultoria financeira, detecção de padrões e automação industrial, entre outros. Atualmente, estamos testemunhando o avanço de máquinas que realizam tarefas específicas com autonomia limitada a funções bem definidas. Muitos produtos de IA restrita ou fraca já estão disponíveis no mercado e têm gerado discussões sobre o impacto das novas tecnologias na interseção entre Direito, Ética e Política (Dubber; Pasquale; Das, 2020; Hoven; Vermaas, 2015; Leslie et al., 2021). A indagação que se coloca é como será o impacto quando sistemas de IA mais avançados, ou IA forte, estiverem amplamente acessíveis.
RkJQdWJsaXNoZXIy MjEzNzYz