Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Hipervigilância, hacking governamental, genocídio quântico e big data 30 O reconhecimento facial foi implantado no Brasil, não obstante a ausência de legislação federal, embora haja algumas legislações em alguns Estados, mas sem trazeremmedidas de mitigação do impacto negativo, isto é, sem exigir a elaboração prévia de uma avaliação de impacto algorítmico, e sequer também o relatório de impacto de proteção de dados, sendo estas as principais medidas para se mitigar riscos, em especial quando se trata de aplicações com um alto grau de risco. Um caso relevante mapeado pela pesquisa do Instituto Igarapé (Igarape, 2022) é o sistema de monitoramento inteligente denominado “Detecta”, desenvolvido pela Microsoft e implementado pelo governo do estado de São Paulo. O Detecta realiza o monitoramento utilizando-se de câmeras, sendo responsável pelo maior banco de dados de informações policiais da América Latina. A pesquisa aponta para o aumento do uso de ferramentas de vigilância pelos governos, para fins de monitoramento de opositores, ativistas, jornalistas, e dissidentes políticos, como no caso da utilização de spyware, por meio do envio de um malware para a vítima, sendo um exemplo de práticas denominadas de hacking governamental, sendo citado ainda o caso de exploração de vulnerabilidades por governos e flexibilização da criptografia, a denominada estocagemou compra de vulnerabilidades criticas, também chamadas de “zero-days” ou “0-days”. Um caso conhecido mundialmente da utilização de tal tecnologia é o malware Pegasus, desenvolvido pela NSO Group, permitindo o amplo acesso a smartphones sem depender de qualquer ato prévio pelo usuário, tal como demonstrou estudo da organização Citizen Lab, falando na infiltração de tal tecnologia em 45 países, inclusive no Brasil. O estudo aponta para a utilização de outras ferramentas similares, como o dispositivo Universal Forensic Extraction Device (UFED), permitindo o monitoramento comunicacional e informacional no Brasil, Honduras, El Salvador e na Argentina. Em São Paulo há uma série de iniciativas no tocante à implantação de até 40.000 câmeras equipadas com reconhecimento facial na linha do projeto Smart Sampa21, visando a implementação de uma plataforma única de videovigilância abrangendo serviços de emergência e de trânsito e as forças policiais, não obstante sua sus21 Disponível em: https://www.prefeitura.sp.gov.br/cidade/secretarias/seguran ca_urbana/noticias/index.php?p=365363. Acesso em: 20 out. 2024.

RkJQdWJsaXNoZXIy MjEzNzYz