Inteligência Artificial na justiça criminal: entre a inovação tecnológica e os desafios éticos e jurídicos na proteção dos Direitos Humanos 72 responsabilidade; vi] reforçar as capacidades humanas e preparar a transformação do mercado de trabalho; vii] promover um ecossistema digital para a IA; viii] investir na investigação e desenvolvimento da IA; ix] criar um ambiente político favorável à IA; x] Cooperação internacional para uma IA confiável (OCDE, 2024). Na União Europeia, destaca-se o Regulamento (UE) 2024/1689, também conhecido como Artificial Intelligence Act (AI Act), instrumento normativo concebido para estabelecer diretrizes e limites à aplicação da IA no bloco europeu. É considerada a primeira regulamentação que estabelece as bases para a regulamentação da IA. A “AI Act” foi publicada em 12 de julho de 2024. A legislação europeia é composta por doze títulos principais de conteúdo que gravitam em torno de quatro pontos principais: i] classificação de riscos da IA (riscos inaceitáveis, alto risco, risco limitado e riscomínimo); ii] obrigações de transparência para provedores e implantadores de determinados sistemas de IA, em especial, sistemas de alto risco; iii] monitoramento pós-comercialização, compartilhamento de informações e vigilância de mercado; iv] código de conduta, diretrizes e penalidades. Os códigos de conduta deverão incorporar os elementos aplicáveis previstos nas diretrizes éticas da União para uma IA fiável, avaliar e prevenir o “impacto negativo dos sistemas de IA nas pessoas vulneráveis ou nos grupos de pessoas vulneráveis”. No considerando 43 da “AI Act” está proibida a utilização de “sistemas de IA que criam ou expandem bases de dados de reconhecimento facial através do recolhimento aleatório de imagens faciais da Internet ou de imagens de CCTV”, visto que essa prática pode “aumentar o sentimento de vigilância em larga escala e pode conduzir a violações grosseiras dos direitos fundamentais, incluindo o direito à privacidade” (União Europeia, 2024). O art. 5º da AI Act europeia apresenta um rol de práticas de IA proibidas que violam os direitos fundamentais, a exemplo do direito à intimidade, privacidade, dados pessoais, liberdade, uso de técnicas manipuladoras e que interferem na consciência de uma pessoa, sistemas que avaliam ou classificam pessoas tendo como base o comportamento e características da personalidade, tratamento prejudicial ou desfavorável às pessoas singulares ou grupos de pessoas, utilização de sistemas de categorização biométrica para “classificar indivíduos com base nos dados bibliométricos para deduzir ou inferir a sua raça, opiniões políticas, filiação sindi-
RkJQdWJsaXNoZXIy MjEzNzYz