73 Haide Maria Hupffer e Renata Fröhlich cal, convicções religiosas ou filosóficas, vida sexual ou orientação sexual” (União Europeia, 2024). O uso de IA para aplicação da lei é considerado de risco elevado pelo Parlamento Europeu pela possibilidade de afetar os direitos fundamentais, o que exigirá que esses sistemas sejam registrados em uma base de dados da União Europeia, sejam avaliados antes de serem implantados pelo sistema judiciário como também durante todo o seu ciclo de vida. Portanto, os sistemas de IA utilizados no âmbito do Judiciário são expressamente classificados como de alto risco, pois como já registado, podemafetar os direitos fundamentais, as liberdades individuais e a democracia. Para reduzir os riscos, a tomada de decisão deve ser sempre humana, ou seja, com supervisão e intervenção humana em todas as etapas da tomada de decisão. Sistemas que colocam os seres humanos e o meio ambiente em risco devem ser sempre proibidos. Deve ser garantido que a IA esteja operando dentro dos limites éticos e legais, a exemplo de processos judiciais em que a tomada de decisão deve ser sempre humana, o que possibilita identificar e corrigir possíveis vieses, transparência nas operações, justiça e equidade (Coitinho; Silva, 2024, p. 11). O primeiro tratado internacional juridicamente vinculativo para a IA é a Convenção-Quadro do Conselho da Europa sobre Inteligência Artificial e Direitos Humanos, Democracia e Estado de Direito (CETS nº 225/2024), que foi redigida “pelos 46 Estados-membros do Conselho da Europa, com a participação de todos os Estados observadores: Canadá, Japão, México, Santa Sé e Estados Unidos da América, bem como a União Europeia, e um número significativo de Estados não-membros”, como Costa Rica, Israel, Uruguai, Argentina, Austrália e Peru. A CETS objetiva garantir que “as atividades dentro do ciclo de vida dos sistemas de inteligência artificial sejam totalmente compatíveis com os direitos humanos, a democracia e o Estado de Direito, ao mesmo tempo que sejam propícias ao progresso tecnológico e à inovação”. Os seguintes princípios devem ser obedecidos em todo o ciclo de vida dos sistemas de IA: i] Dignidade humana e autonomia individual; ii] Igualdade e não discriminação; iii] Respeito pela privacidade e proteção de dados pessoais; iv] Transparência e supervisão; v] Responsabilidade e prestação de contas;
RkJQdWJsaXNoZXIy MjEzNzYz