Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

455 Luan Tomaz Ferreira, Daniel Kessler de Oliveira e Diogo Machado de Carvalho se perpetue violências contra grupos historicamente discriminados (Melo; Serra, 2022, p. 205-220). Note-se, portanto, que é evidente a presença de vieses discriminatórios decorrentes da imprecisão tecnológica utilizada em ferramentas de reconhecimento facial, as quais apresentam falhas técnicas significativas, atuando com imprecisão, especialmente para com pessoas com tons de pele mais escuros, sendo possível constatar um flagrante ameaça aos direitos fundamentais. Além disso, com a justificativa de se inibir a prática de crimes, a propagação de instrumentos vigilância tem acontecido sem a elaboração de uma legislação específica de proteção e tratamento de dados na seara penal, gerando repercussões desoladoras no exercício da liberdade, inclusive modulando o comportamento e impedindo o livre desenvolvimento da personalidade. 6. CONCLUSÃO Através do presente trabalho demonstrou-se como a divulgação de uma série de iniciativas de utilização de câmeras de reconhecimento facial no Brasil e a coleta de dados biométricos de maneira indiscriminada, aliadas ao seu emprego no campo da repressão criminal sem que haja uma norma regulamentadora, macula e fragiliza uma série de direitos e garantias fundamentais, como o direito à privacidade e à intimidade, reforçando a criminalização de grupos sociais já tradicionalmente alvos da repressão social. Entendeu-se, nesse sentido, que não se justifica o uso de sistemas de reconhecimento facial em razão de seu potencial lesivo a direitos fundamentais previstos constitucionalmente, não sendo seguro que tal tecnologia seja disseminada sob o discurso garantidor de uma maior efetividade das políticas criminais de segurança pública, uma vez que essas tecnologias acabam absorvendo e refletindo vieses discriminatórios estruturais nos sistemas utilizados, não havendo, ainda, sequer uma norma regulamentadora sobre a coleta e tratamento de dados e a sua respectiva utilização no âmbito penal. Na hipótese, foi possível observar que os algoritmos e a inteligência artificial utilizadas nos sistemas de monitoramento tem replicados vieses preconceituosos e raciais históricos, que envolvem a acurácia na identificação de minorias raciais, causando forte in-

RkJQdWJsaXNoZXIy MjEzNzYz