69 Haide Maria Hupffer e Renata Fröhlich juiz selecionado aleatoriamente; ix] o direito a um tribunal independente e imparcial; x] presunção de inocência; xi] o direito de interrogar testemunhas; xii] princípio da não discriminação e igualdade; xiii] liberdade de expressão; xiv] liberdade de associação e participar/organizar reuniões; xv] direitos sociais e acesso a serviços públicos. O avanço da IA em sistemas criminais pode “perturbar o próprio conceito de direitos humanos como escudos protetores contra a interferência estatal”. A “IA explicável” e transparente não passa de uma ilusão (Završnik, 2020). A discriminação no sistema de justiça criminal brasileiro manifesta-se de maneira particularmente evidente no campo do Direito Penal. A análise do perfil da população carcerária revela uma predominância de indivíduos pertencentes a grupos racialmente marginalizados e em situação de vulnerabilidade socioeconômica, o que evidencia a atuação seletiva do sistema penal. Muitos dos que se encontram privados de liberdade não chegaram a essa condição por escolhas conscientes, mas sim em decorrência da ausência de oportunidades. Nesse contexto, decisões baseadas em critérios subjetivos tornam-se especialmente problemáticas, pois tendem a reproduzir estigmas sociais e a consolidar desigualdades históricas (Madeira; Terron, 2024, p. 16). A Rede de Observatórios da Segurança, visando compreender o impacto das tecnologias de reconhecimento facial no contexto policial do Brasil, realizou um monitoramento abrangente. Entre março e outubro do ano de 2019, foram registrados casos de prisões e abordagens utilizando essa tecnologia em quatro Estados: Bahia, Rio de Janeiro, Santa Catarina e Paraíba, resultando na detenção de 151 indivíduos. Dos casos em que informações sobre raça e cor estavam disponíveis ou imagens dos abordados foram registradas (totalizando 42 casos), 90,5% eram de pessoas negras e 9,5% de pessoas brancas. Destaca-se que a maioria das prisões foi motivada por tráfico de drogas e roubo, ambos representando 24,1% dos casos cada (Nunes, 2019, p. 68-69). Neste ínterim, em julho do mesmo ano, o sistema utilizado pela polícia do Rio de Janeiro foi alvo dos noticiários, quando no segundo dia emque o sistema começou a operar, apontou erroneamente uma mulher como procurada pela justiça. Não sendo suficiente a abordagem falha, nos dias seguintes foi descoberto que a criminosa
RkJQdWJsaXNoZXIy MjEzNzYz