Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Reconhecimento facial e política criminal: entre a segurança pública e a proteção aos direitos fundamentais 448 filamento dos participantes de movimentos que desafiem interesses políticos ou econômicos estabelecidos, violando seu anonimato e facilitando a criminalização ou perseguição de expressões legítimas das mais variadas naturezas. A perspectiva de estar sob constante vigilância também encoraja o silenciamento e a autocensura, conforme mencionado, representando um risco gravíssimo para as sociedades democráticas (Garay; Venturini, 2021). É de se observar, ainda, que a aplicação dessa tecnologia sem a devida transparência e regulamentação, reforça a vigilância e o policiamento em comunidades já marginalizadas. O modo prematuro com que os governos estão instalando mecanismos de vigilância agrava a situação acima referida, na medida em que sequer são realizados testes de segurança e precisão dos mecanismos, o que enseja a violação de uma série de direitos humanos, como privacidade, proteção de dados, liberdades, não-discriminação e presunção de inocência, assim como da própria democracia, ao potencialmente resfriar protestos e movimentos civis (Hartzog; Selinger, 2020, p. 4-5). Além de afetar a privacidade, as liberdades civis e a proteção dos dados pessoais, a implementação da tecnologia de reconhecimento facial acarreta riscos de violação do direito à igualdade e à não discriminação. Isso se deve à presença de vieses algorítmicos e à categorização social promovida pela vigilância. É importante destacar que os vieses algorítmicos em sistemas de reconhecimento facial podem impedir que certos grupos exerçam seus direitos fundamentais em igualdade de condições, agravando disparidades e estereótipos entre minorias. A classificação dos cidadãos em grupos realizada pela vigilância frequentemente resulta em tratamentos diferenciados, o que não é autorizado constitucionalmente, especialmente para minorias raciais (Mendes; Mattiuzzo, 2019, p. 39-64). 5. O RECONHECIMENTO FACIAL BIOMÉTRICO, A POLÍTICA CRIMINAL BRASILEIRA E OS IMPACTOS AOS DIREITOS FUNDAMENTAIS A política criminal, enquanto campo independente do saber, teve sua origem na tripartição concebida por Franz Von Liszt, professor austríaco responsável por organizar as diversas disciplinas sob toda a gama que envolve as ciências criminais. A partir desse

RkJQdWJsaXNoZXIy MjEzNzYz