Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Hipervigilância, hacking governamental, genocídio quântico e big data 28 O instituto Igarapé em recente relatório denominado “Implementação de Tecnologias de Vigilância no Brasil e na América Latina”17 aponta que o uso de tal tecnologia deve ser precedido de autorização legislativa especifica, e que em diversos casos de sua utilização não há previsão de suporte técnico por parte das empresas fornecedoras após o período de testes, além do desconhecimento pelos agentes públicos acerca dos modos de uso do equipamento, bem como seus riscos e formas de mitigação, ocorrendo a má gestão de tecnologia, impossibilidade de se verificar sua acurácia e efetividade, dificultando o escrutínio público. Tampouco há informações de exclusão dos dados após o fim do contrato, forma de descarte e sobre a elaboração prévia do Relatório de Impacto a Proteço de Dados e da avaliação de impacto algorítmico. No mesmo sentido a pesquisa da Lapin afirma que em nenhumdos casos analisados foi identificada a elaboração de qualquer avaliação de impacto pela Administração Pública de modo a avaliar os riscos a proteço de dados e a outros direitos fundamentais, com exceção apenas do Serviço Federal de Processamento de Dados (SERPRO), no contexto do serviço DataValid. Há ainda atos normativos do Poder Executivo que dificultam a coleta de informações acerca da tecnologia de reconhecimento facial, a exemplo da Portaria CGAI n. 1 de 2016, da Controladoria e Ouvidoria-Geral do Estado do Ceara, classificando como sigilosos os documentos e informações sobre o uso de equipamentos de vigilância pela Administração Pública estadual18. Acerca da LGPD – Lei Geral de Proteção de dados pode-se afirmar a falta de uma melhor técnica legislativa, trazendo a possibilidade de interpretações diversas no tocante à obrigatoriedade da elaboração prévia do Relatório de Impacto de Proteção de Dados, como regra geral, ao contrário do Regulamento Geral de Proteço de Dados da União Europeia, que é claro ao estabelecer sua obrigatoriedade no caso de elevados riscos aos direitos e liberdades dos indivíduos, especialmente no caso de monitoramento de forma sistemática áreas publicas e de categorias especiais de dados pessoais 17 Disponível em: https://igarape.org.br/wp-content/uploads/2020/06/2020-06- 09-Regulação-do-reconhecimento-facial-no-setor-público.pdf. Acesso em: 20 out. 2024. 18 Disponível em: https://www.cgd.ce.gov.br/wp-content/uploads/sites/33/migra cao/2899.pdf. Acesso em: 20 out. 2024.

RkJQdWJsaXNoZXIy MjEzNzYz