Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

443 Luan Tomaz Ferreira, Daniel Kessler de Oliveira e Diogo Machado de Carvalho de, podendo violar uma série de direitos fundamentais, conflitando com os valores básicos de umEstado Democrático de Direito. Segundo Woodrow Hartzog e Evan Sellinger, o reconhecimento facial é a ferramenta perfeita para a opressão, pois além de violar o direito à privacidade, também permite uma série de outros abusos e atividades corrosivas, como perseguição a pessoas negras e grupos étnicos, aumento do assédio, coerção policial constante e ostensiva e perpetuação do capitalismo de vigilância (Hartzog; Sellinger, 2018). Associando o Byung-Chul Han à afirmativa de que a sociedade atual se encontra em um panóptico digital, Samuel de Oliveira questiona sobre se “o regime de proteção de dados pessoais no Brasil é suficiente para salvaguardar os direitos à privacidade e à proteção de dados no que se refere à utilização de tecnologias de reconhecimento facial?” (Oliveira, 2020, p. 53). Diante te tal indagação, o autor destaca a afirmativa de que: [...] o uso de tecnologias de reconhecimento facial para fins de vigilância pode ocasionar graves violações ao direito à privacidade e ao direito à proteção de dados, e que as legislações existentes no Brasil que dispõem sobre a proteção de dados pessoais não regulamdemaneira satisfatória tais direitos quando se trata do uso de sistemas de reconhecimento facial (Oliveira, 2020, p. 53). Ainda que alguns cenários sejam vistos com um aspecto favorável à segurança pública e à investigação criminal, as tecnologias de identificação facial ostentam uma faceta enigmática em sua implementação no território brasileiro, cujas raízes remontam a um elemento preexistente à própria tecnologia, a saber, o racismo. Não são raros os casos de indivíduos inocentes sendo detidos por delitos que não cometeram, havendo sido erroneamente reconhecidos por falha no reconhecimento fotográfico, feito por pessoas e não máquinas (Costa; Kremer, 2022, p. 149). Em2021, por exemplo, o Conselho Nacional de Justiça instaurou o grupo de trabalho denominado Reconhecimento de Pessoas, atendendo a umpedido da organização não governamental Innocence Project Brasil em conjunto com outros parceiros que requisitaram a criação de um grupo de trabalho responsável pela avaliação sobre regulamentação, parametrização, critérios de realização e valoração de reconhecimento de pessoas sob suspeita de crime.

RkJQdWJsaXNoZXIy MjEzNzYz