O devido processo digital na perspectiva processual e constitucional: para além da transparência algorítmica 284 sistema era protegida por sigilo comercial, impossibilitando a verificação dos critérios usados na categorização do risco de reincidência. Contudo, a moção foi negada pelo juiz de primeira instância (Alves. 2022, p. 342-344). Após a negativa, a defesa recorreu à Suprema Corte de Wisconsin, que manteve a condenação e concluiu que, apesar de a metodologia usada para a avaliação não ser divulgada ao tribunal nem ao réu, o uso do algoritmo não violou os direitos do acusado. A corte determinou que Loomis receberia a mesma pena mesmo sem o uso do COMPAS. Em uma última tentativa de contestar a decisão, a defesa apresentou um recurso semelhante ao Recurso Extraordinário no Brasil, à Suprema Corte dos Estados Unidos. Esse recurso, que corresponderia a um recurso em nosso direito processual, foi negado, com a justificativa de que o tema ainda é muito novo para ser tratado pela mais alta corte do país. (Alves. 2022, p. 342-344). Por outro lado, uma pesquisa sobre os vieses do COMPAS realizada pela ProPublica revelou diversos exemplos em que o sistema atribuiu decisões enviesadas, como os casos de Vernon Prater, um homem branco que recebeu uma pontuação de risco 3, e Brisha Borden, uma jovemnegra que recebeu uma pontuação de risco 8. Brisha, aos 18 anos, pegou uma bicicleta na rua para não se atrasar ao buscar sua irmã na escola. Quando a mãe do dono da bicicleta gritou, ela largou a bicicleta e foi embora, mas acabou sendo presa. Ela já tinha um pequeno registro policial por um delito menor cometido quando eramenor de idade. Vernon, com41 anos, foi preso por tentar roubar itens de uma loja de departamentos. Ele tinha condenações anteriores por roubo à mão armada e tentativa de roubo, tendo cumprido cinco anos de prisão. O COMPAS classificou Brisha como de alto risco de reincidência e Vernon como de baixo risco. Dois anos depois, Brisha não cometeu novos delitos, enquanto Vernon está cumprindo uma pena de oito anos de prisão por roubar uma loja de eletrônicos, causando um prejuízo de milhares de dólares (Suriani, 2022). No entanto, apesar do exemplo mencionado anteriormente, Cass R. Sunstein (2022) argumenta que os algoritmos podem reduzir ou eliminar o viés e o ruído, desde que sejam devidamente programados. Sunstein (2022) aponta que os algoritmos têm o potencial de superar os efeitos prejudiciais dos vieses cognitivos, que frequentemente influenciam aqueles cujo trabalho é evitá-los. Com treina-
RkJQdWJsaXNoZXIy MjEzNzYz