Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

283 Alana Gabriela Engelmann e Wilson Engelmann tional Offender Management Profiling for Alternative Sanctions). Ele foi desenvolvido pela empresa Northpointe Inc., que atualmente é conhecida como Equivant e foi introduzido no sistema de justiça dos Estados Unidos. O COMPAS é um dos primeiros sistemas de avaliação de risco de reincidência a ser amplamente utilizado para auxiliar juízes na tomada de decisões sobre a liberdade condicional e a determinação de penas. O COMPAS utiliza algoritmos de inteligência artificial para criar perfis dos réus e realizar análises de risco, isto é, a probabilidade de reincidência criminal de um indivíduo. O sistema é baseado em um conjunto de pontuações derivadas de 137 perguntas respondidas pelos réus ou extraídas de seus registros criminais emum extenso banco de dados policial e do sistema criminal americano. Apesar de a raça do acusado ser considerada, em 2016, a organização não governamental ProPublica conduziu um estudo revelando um viés racial nas previsões do COMPAS, que atribuía erroneamente um maior grau de risco a réus negros em comparação aos brancos (Suriani, 2022). O funcionamento do COMPAS é baseado em um questionário de 137 itens que o acusado preenche, incluindo informações sobre escolaridade, antecedentes criminais familiares, amigos e vizinhos, profissão, emprego, local de nascimento e residência, além de histórico de uso de drogas. Com a análise de todos esses dados, o sistema inteligente gera uma avaliação de risco através de uma pontuação que varia de 1 (baixo risco) a 10 (alto risco). A Suprema Corte de Wisconsin foi um dos primeiros tribunais a adotar esse sistema, utilizando-o para revisar pedidos de liberdade condicional com base na probabilidade de reincidência (Suriani, 2022). Umdos casos mais emblemáticos envolvendo essa ferramenta na Suprema Corte de Wisconsin ocorreu em 2013. Eric Loomis, acusado de cinco crimes relacionados a um tiroteio em La Crosse, foi condenado a seis anos de prisão. O sistema COMPAS foi utilizado para analisar seu caso e indicou que ele tinha uma alta probabilidade de reincidência. Com base nessa avaliação, o juiz recusou o pedido de liberdade condicional e determinou a dosimetria da pena. A defesa de Loomis apresentou uma petição ao juiz de primeira instância, argumentando que a avaliação do COMPAS violou seu direito a um julgamento individualizado e seu direito a uma condenação baseada em informações precisas. Eles alegaram ainda que a metodologia do

RkJQdWJsaXNoZXIy MjEzNzYz