Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Reconhecimento facial e política criminal: entre a segurança pública e a proteção aos direitos fundamentais 446 No Brasil, centenas de organizações de direitos digitais, ativistas e investigadores lançaram a campanha “Tire Meu Rosto da Sua Mira”, que reivindica o banimento total das tecnologias digitais de reconhecimento facial na segurança pública, dado o potencial de abusos e violações de direitos. Concatenando as possíveis violações aos direitos fundamentais, a referida campanha descreve que: As tecnologias de vigilância nos trazem insegurança em razão da violação a nossos direitos, sem que nos sejam dadas chances de evitar ou mesmo consentir com sua implementação e com o fato de nos tornarmos seus alvos. Destacam-se as violações de nossa integridade, pela coleta e pelo processamento de dados pessoais biométricos; de nossa liberdade de ir e vir e de autodeterminação, pois podemos estar sob vigilância 24 horas por dia, 7 dias por semana, criando um contexto amedrontador; do nosso direito ao devido processo legal, pois a vigilância em massa considera todas as pessoas culpadas por princípio, minando a garantia constitucional da presunção de inocência como um pressuposto jurídico básico. Veja que a iniciativa da campanha traz à tona o impacto que as tecnologias de reconhecimento facial podem trazer ao devido processo legal e ao princípio constitucional da presunção de inocência, já que, conforme referido acima, todos os indivíduos são tratados como suspeitos, ocasionando numverdadeiro policiamento preditivo institucionalizado. Sobre o direito à privacidade na era digital, o Conselho de Direitos Humanos da Organização das Nações Unidas recentemente enfatizou em uma resolução que o uso crescente de tecnologias como o reconhecimento facial, sem as devidas proteções, afeta não apenas o direito à privacidade, mas também outros direitos humanos fundamentais, como a liberdade de opinião, expressão e reunião pacífica. O Conselho expressou preocupação com as desigualdades raciais que podem ser reproduzidas e agravadas pelo uso do reconhecimento facial, e instou os Estados a garantirem que as tecnologias biométricas e de reconhecimento, incluindo o reconhecimento facial, não se traduzam em vigilância arbitrária ou ilegal. Nesse contexto, no longo prazo, a implementação de tecnologias de reconhecimento pode resultar em consequências ainda mais prejudiciais. Nila Bala, ao montar um panorama sobre os possíveis impactos que a vigilância promovida pelo reconhecimento facial

RkJQdWJsaXNoZXIy MjEzNzYz