77 Haide Maria Hupffer e Renata Fröhlich desenvolvimento e a adoção de sistemas de IA seguros e confiáveis, ao mesmo tempo que garante o respeito aos direitos fundamentais dos cidadãos da UE. Este Regulamento define um sistema baseado no risco, estipulando que quanto maior o risco de danos à sociedade e ao meio ambiente, mais rigorosas se tornam as regras. No âmbito brasileiro, o Projeto de Lei n.º 2.338/2023 aprovado no Senado em 2024 e que está em análise na Câmara dos Deputados, também trabalha com a classificação de riscos sob influência da normativa da UE, além de ações que promovem o direito à não discriminação e a igualdade. A regulamentação da IA para orientar o desenvolvimento e a implantação responsável é essencial para garantir que essa tecnologia avance de maneira ética e segura. À medida que a IA se torna cada vez mais integrada na vida dos seres humanos, é fundamental que o Brasil também estabeleça diretrizes claras que promovam a transparência, a responsabilidade e a proteção dos direitos dos indivíduos. A aprovação do Projeto de Lei n.º 2.338/2023, que se posiciona comuma abordagem equilibrada, é fundamental para maximizar os benefícios da IA, minimizando os riscos associados a seu desenvolvimento e uso. Assim, a regulamentação não apenas ajudará a moldar um futuro mais justo e sustentável, mas também fortalecerá a confiança da sociedade nessa poderosa ferramenta. Por fim, embora sejam reconhecidos os avanços significativos do uso da IA na justiça criminal, destaca-se a necessidade de garantir que os sistemas de IA desenvolvidos estejam em conformidade com os princípios para uma IA ética, responsável, segura, alicerçados nos direitos humanos, na democracia, no princípio da dignidade humana, autonomia individual e no Estado de Direito. O uso indevido da IA no Direito Penal, potenciais vieses e erros, desenvolvimento e uso mal-intencionados e a manipulação de conteúdos gerados podem influenciar decisões judiciais, violar direitos humanos e resultar em graves implicações para a integridade do sistema de justiça criminal.
RkJQdWJsaXNoZXIy MjEzNzYz