135 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD lidade e accountability mostram-se indispensáveis para que a IA não se converta em uma ferramenta de arbítrio (como temia Russel), mas em um recurso legítimo de apoio às decisões e causas da humanidade. 2.3.3 Contornos jurídicos de um efeito colateral: Black Boxes e discriminação algorítmica. A utilização – e dependência – de decisões de sistemas algorítmicos em questões críticas é absolutamente problemática, como percebe-se no exemplo relacionado à saúde e, igualmente, no cumprimento da lei e em casos criminais (Siegel, 2017, p. 68). Paradigmático, nesse sentido, é o caso do Correctional Offender Management Profiling for Alternative Sanctions (COMPAS), sistema desenvolvido, em seu primórdio, para o gerenciamento de penitenciárias. No entanto, conforme atentam Mendes, Mattiuzzo e Fujimoto (2021, p. 432) “embora tenha sido projetado originalmente para o monitoramento de penitenciárias, o algoritmo tem sido usado para outros propósitos nos Estados Unidos, especialmente para avaliação do risco de reincidência”. Esse sistema foi utilizado no caso “State v. Loomis” (881 N.W.2d 749 (Wis. 2016)), em que o estado de Wisconsin, nos Estados Unidos da América, indiciou Eric Loomis por cinco acusações relacionadas a um tiroteio ocorrido em La Crosse. Em preparação para a sentença, foi apresentado um PSI Report (Presentence Investigation Report)41 em que foi incluída uma avaliação do risco de reincidência pelo sistema COMPAS. Essa avaliação foi crucial para condenação de Loomis, sendo inclusive expressamente referida na decisão (Harvard Law Review, 2017, p. 1530-1537). 41 É uma ferramenta utilizada para auxiliar o juiz a determinar a melhor forma de julgar determinado caso em que deve haver apuração da pena do réu, combase em informações sobre histórico familiar, histórico de emprego, educação, entre outros dados. In: WESTER DISTRICT OF WISCONSIN. Presentence Investigation. United States Probation and Pretrial Services. Disponível em: https://www.wiwp.uscourts.gov/presentence-investigation. Acesso em: 10 set. 2023.
RkJQdWJsaXNoZXIy MjEzNzYz