Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

31 Paola Cantarini pensão por ações judiciais, apontando-se para o risco de afronta a LGPD e riscos concretos de reprodução do racismo estrutural, já que segundo pesquisa da Rede de Observatórios da Segurança 90% das prisões feitas no Brasil por meio dessa tecnologia foram de pessoas negras, e entre elas houve erros de identificação que levaram inocentes à prisão.22 Posteriormente a suspensão foi cassada em sede de recurso sob argumentos totalmente equivocados, tais como de que não é possível o Judiciário interferir em decisões da administração pública, sendo possível somente em caso de “flagrante ilegalidade”, entendendo que a LGPD não se aplicaria ao caso, e que não haveria comprovação de falsos positivos, ignorando que os princípios da LGPD são aplicáveis e que inúmeros relatórios nacionais e internacionais apontam para falhas graves do sistema e para o viés racial (Processo: 1027876-45.2023.8.26.0053), a exemplo dos estudos do Big Brother Watch, afirmando que 98% das correspondências obtidas por câmeras que alertam a polícia do Reino Unido identificaram incorretamente inocentes como se fossem foragidos. 23 A Anistia Internacional tem tomado medidas a fim de discutir a temática da vigilância global, exigindo maior transparência, a exemplo da campanha “#UnfollowMe” e de medidas legais tomadas em face dos Estados Unidos e Reino Unido ajuizando pedido na Corte Europeia de Direitos Humanos em face da agência de inteligência do Reino Unido GCHQ, e ação judicial no Tribunal Federal dos Estados Unidos em face da NSA. Segundo seu relatório com base em entrevista de mais de 15mil pessoas em 13 países, incluindo o Brasil, 59% dos entrevistados se opõem a que governos monitorem seus próprios cidadãos, entretanto, quando se trata de cidadãos estrangeiros vivendo em seus países, a maioria concorda com a vigilância; 71% reprovam a espionagem dos Estados Unidos a outros países, com destaque para os brasileiros e os alemães (80%), sendo os alemães (69%), espanhóis (67%) e brasileiros (65%) os que mais se opõem à vigilância emmassa por seus próprios governos.24 22 Disponível em: https://cesecseguranca.com.br/artigo/levantamento-revela- que-905-dos-presos-por-monitoramento-facial-no-brasil-sao-negros/. Acesso em: 20 out. 2024. 23 Disponível em: https://bigbrotherwatch.org.uk/wp-content/uploads/2023/05/ Biometric-Britain.pdf. Acesso em: 20 out. 2024. 24 Disponível em: https://www.anistia.org.br/informe/pesquisa-inedita-indica- preocupacao-dos-internautas-brasileiros-com-vigilancia-e-privacidade-na- internet/. Acesso em: 20 out. 2024.

RkJQdWJsaXNoZXIy MjEzNzYz