67 Haide Maria Hupffer e Renata Fröhlich 4. JUSTIÇA CRIMINAL E REGULAMENTAÇÃO DA IA: DESAFIOS ÉTICOS E JURÍDICOS PARA A PROTEÇÃO DOS DIREITOS HUMANOS Como observado, sistemas de IA estão sendo utilizados em diferentes fases do processo penal, como para detecção e repressão de crimes utilizando tecnologias de reconhecimento facial, análises preditivas, determinação de quem pode ser preso, dosimetria da pena, liberdade condicional, fiança e responsabilidade penal, o que levanta desafios éticos. A possibilidade de interferir nos direitos e liberdades pessoais exige que o exercício dos profissionais que atuam na ciência forense e em todas as fases do processo penal seja pautado pelos mais altos princípios éticos de forma a garantir a privacidade, proteção de dados, confiabilidade, credibilidade, equidade e não discriminação (garantir a não discriminação em razão da raça, orientação sexual, cor, condição social, religião, idade, sexo e opinião pública), supervisão e decisão humana, valores centrados no ser humano, responsabilização, transparência, explicabilidade e prestação de contas, Por esse motivo, a reflexão ética sobre os algoritmos, dados, aprendizagem de máquina, aprendizado profundo e Processamento em Linguagem Natural que alimentam sistemas de IA torna-se necessária e urgente. A argumentação de que os algoritmos carecem de neutralidade e podem introduzir novas manifestações de preconceitos ou intensificar os já existentes dependerá significativamente das decisões tomadas durante a concepção dos sistemas de IA, da programação dos algoritmos e dos dados coletados. Grande parte dessas decisões são influenciadas pelo contexto ético, político e jurídico em que as empresas, organizações públicas e privadas e os poderes constituintes estão inseridos. No entanto, capturar de forma eficaz os dados ameaçados por algoritmos tendenciosos que violam a legislação não é uma tarefa simples (Hupffer; Santana, 2023, p. 87). Neste sentido, o entendimento de Floridi (2024) que as presentes gerações deverão não apenas permanecerem criticamente vigilantes para lidar com as complexidades éticas da IA, mas também garantir que os sistemas de IA sejam transparentes, responsáveis, protejam contra danos, sejam explicáveis e que respeitam os padrões éticos em todas as etapas da criação da IA, desde a coleta de dados, treinamento e aplicação no mundo real. Algoritmos tenden-
RkJQdWJsaXNoZXIy MjEzNzYz