Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

27 Paola Cantarini para banco de dados e reproduzidos via algoritmos, que reproduzem o viés dos bancos de dados (Lyon; Murakami, 2020). Quanto ao reconhecimento facial os casos de uso pelo Poder Público no Brasil relacionam-se a seis finalidades, quais sejam, segurança publica, transporte urbano, escolas, sistemas para gestão de benefícios sociais, controle alfandegário e validação de identidade, podendo dar ensejo tanto a falsos positivos como negativos, ou seja, a abordagens e apreensões de forma injusta ou a nao identificaço, negando-se benefícios de assistência social por exemplo. Outras problemáticas relacionam-se a ausência de mecanismos de prestação de contas aos cidadãos sobre os seus direitos e de medidas preventivas e mitigadoras de danos e de segurança da informação, alémda ausência de avaliações sobre a proporcionalidade dos impactos negativos em face das externalidades positivas, geralmente associadas à maior efetividade, a qual, contudo, é questionável como aponta relatório da LAPIN de 2021, afirmando que há falta de transparência diante da ausência de dados estatísticos sistematizados, consolidados ou publicizados sobre o tratamento de dados realizado por meio de tecnologias de reconhecimento facial pela Administração Pública, não havendo provas, pois de que tais tecnologias ensejariam maior eficiência das atividades do setor público, ou seja, de acordo com os dados divulgados, “a narrativa da eficiência da tecnologia parece não se confirmar estatisticamente”.16 A título de exemplo, no carnaval de Salvador de 2020, das 11,7 milhões de pessoas entre adultos e crianças que estiveram presentes, o uso das mais de 80 câmeras com tal tecnologia deram ensejo à detecção de 42 foragidos. No Rio de Janeiro, houve com tal utilização o cumprimento de 63 mandados de prisão durante a Copa América de 2019, computando-se dois casos de falsos positivos. Verifica-se, pois que há uma possível desproporcionalidade, se observarmos o número de captura de 42 foragidos, e o acesso a dados pessoais biométricos de 11,7 milhões de pessoas, ou seja, parece que o benefício não seria proporcional ao potencial de danos a direitos fundamentais de milhões de pessoas que sem serem suspeitas foram submetidas a vigilância massiva do Estado. 16 Disponível em: https://lapin.org.br/2021/07/07/vigilancia-automatizada-uso- de-reconhecimento-facial-pela-administracao-publica-no-brasil/. Acesso em: 20 out. 2024.

RkJQdWJsaXNoZXIy MjEzNzYz