21 Wilson Engelmann e Camila Machado Dias sendo, portanto, proibidas — como é o caso de agentes de pontuação social por parte de governos e do uso, em regra, da identificação biométrica remota em tempo real em espaços públicos19. Los sistemas de IA que entran en la categoría de riesgo inaceptable son aquellos con la capacidad de infligir daño físico o psicológico a las personas. Estos sistemas están prohibidos, ya que contradicen los valores fundamentales de la UE. Estos valores incluyen el respeto a la dignidad humana, la libertad, la igualdad, la democracia, el Estado de derecho y los DDFF, el derecho a no ser discriminado, a la protección de datos o a la privacidad.20 Neste sentido, cumpre esclarecer que os Direitos Fundamentais (DDFF) são os direitos reconhecidos e protegidos pela Constituição ou lei fundamental de um país específico, tendo um caráter mais concreto e um âmbito nacional (ou comunitário), como no caso da Carta dos Direitos Fundamentais da União Europeia (UE)21. Os DDFF ao serem positivados em ordens constitucionais específicas, refletem as escolhas políticas, históricas e culturais de cada Estado ou comunidade regional, assegurando mecanismos de tutela jurisdicional interna mais imediatos e eficazes. Dessa forma, é possível afirmar que atuam como um núcleo concreto de proteção dentro dos sistemas jurídicos nacionais ou supranacionais, enquanto os direitos humanos servem como parâmetro de legitimidade e orientação normativa no plano internacional22. Já os sistemas de alto risco, por sua vez, são aqueles com potencial de afetar de modo adverso a saúde, a segurança ou os direitos fundamentais dos cidadãos. Embora não sejam vedados, devem atender a requisitos obrigatórios de precisão, robustez e cibersegu19 PIEDRA ALEGRÍA, op. cit. 20 Os sistemas de IA que se enquadram na categoria de risco inaceitável são aqueles com a capacidade de causar dano físico ou psicológico às pessoas. Esses sistemas estão proibidos, pois contradizem os valores fundamentais da União Europeia. Esses valores incluem o respeito pela dignidade humana, a liberdade, a igualdade, a democracia, o Estado de direito e os direitos fundamentais, bem como o direito de não ser discriminado, à proteção de dados e à privacidade. UNIÃO EUROPEIA, op. cit. 21 PIEDRA ALEGRÍA, op. cit. 22 AMARAL JÚNIOR, Alberto do. Curso de direito internacional público. 2. ed. São Paulo: Atlas, 2011. p. 457.
RkJQdWJsaXNoZXIy MjEzNzYz