Inteligência Artificial na justiça criminal: entre a inovação tecnológica e os desafios éticos e jurídicos na proteção dos Direitos Humanos 76 é considerado legítimo e não autocrático”, por estar em desacordo com as liberdades fundamentais (Završnik, 2020). Por fim, pode-se dizer que o avanço exponencial da IA trouxer uma série de benefícios e riscos, o que traz à tona preocupações éticas, a necessidade de uma governança proativa e mecanismos regulatórios robustos para orientar seu desenvolvimento e implantação. Para concretizar os benefícios da IA de forma responsável, benéfica e equitativa é necessário garantir que a IA salvaguarde os direitos individuais, os princípios éticos e os valores sociais. Para isso, são necessárias abordagens proativas e multifacetadas, que envolvam diferentes atores e setores, incluindo o sistema político, jurídico, econômico, profissionais da ética e a sociedade civil. O alinhamento com os padrões internacionais de direitos humanos, a promoção do bem-estar social, sistemas de IA livres de preconceitos, robustez contra ameaças, prevenção de exploração, monitoramentos consistentes devem ser os pilares e a garantia que o desenvolvimento e a implantação da IA fortaleça e não prejudique os direitos fundamentais e as liberdades (Kashefi; Kashefi; Mirsaraei, 2024). 5. CONSIDERAÇÕES FINAIS A discussão envolvendo os sistemas de IA e os algoritmos no Direito Penal coloca em evidência questões éticas e discriminatórias, refletindo preocupações sobre como esses sistemas podem perpetuar ou amplificar preconceitos existentes, sobretudo contra grupos vulnerabilizados, ampliar perigos potenciais como erros e opacidade dos algoritmos, distorções, vieses, recomendação de penas Esses desafios exigem uma abordagem ética robusta, que inclui a regulamentação, diversidade nas equipes de desenvolvimento e envolvimento de múltiplas partes interessadas para garantir que a IA seja desenvolvida e utilizada de forma justa e equitativa. A incorporação de ferramentas de IA nos sistemas de justiça criminal desafia os fundamentos da democracia, a realização dos direitos humanos, o Estado de Direito, que a decisão continue sendo humana e centrada no ser humano, como também desafia a imparcialidade judicial e a transparência dos processos penais. A União Europeia (UE) adotou o Regulamento Inteligência Artificial (Artificial Intelligence Act) que tem como propósito incentivar o
RkJQdWJsaXNoZXIy MjEzNzYz