87 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD se converta em uma ferramenta para propagação de injustiça, danos e discriminação. Nesse sentido, vale dizer: sistemas de IA podem sim ser úteis à causa humana. Pérez (2021, p. 573), em uma visão mais positiva, dirá que pode sistemas de IA podem ser utilizados para potencializar o exercício de direitos e liberdades individuais, visto que “los sistemas de IA forman ya parte del contexto técnico-procedimental en el que se aplica el derecho” 27. No entanto, em que pese a potencialidade do uso benéfico da IA para o direito e a sociedade, Russel (2021) chama atenção para um novo tipo de problema que muito possivelmente acompanhará a humanidade nas próximas décadas: os vieses algorítmicos. Quando (e como) saber se a resposta do sistema de IA responsável que negou contratação, empréstimo, plano de saúde ou categorizou determinado indivíduo como “possível risco” não é fruto de uma análise enviesada? Não é o propósito da presente investigação, mas, mesmo assim, é de se questionar: em âmbito jurisdicional, como ter certeza de que determinada decisão realmente foi proferida por um juiz humano, e não por um algoritmo dotado de vieses invisíveis? Como saber se tais ferramentas vêm sendo utilizadas, como são empregadas e se mantêm suas bases de dados apenas com dados pertinentes? Isso não é apenas o caso do Direito, trata-se de um dilema que, em todas as áreas poderá ser objeto de preocupação e questionamento. Os vieses surgem então como um preocupante problema para a sociedade, especialmente quando o algoritmo produz decisões “inapropriadamente parciais” em questões que são por essência críticas, como as citadas no subcapítulo 1.2 (saúde, educação, moradia, acesso ao Poder Judiciário etc.). E qual seria a causa disso? Segundo Russel (2021, p. 166), “hoje em dia, as causas mais prováveis de viés algorítmico estão nos dados, mais do que na perversidade das corporações”. 27 PERÉZ, Antonio Madrid. La inteligencia artificial (IA) como instrumento em la promoción y la garantía de derechos y libertades, p. 559-601. In: NETTO, Felipe Braga et al. (coord.). Direito digital e Inteligência Artificial: São Paulo: Foco, 2021. p. 573.
RkJQdWJsaXNoZXIy MjEzNzYz