Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

447 Luan Tomaz Ferreira, Daniel Kessler de Oliveira e Diogo Machado de Carvalho pode causar no ambiente escolar, afirma ser o monitoramento da aprendizagem infantil um caminho para a deterioração do que se conhece como sociedade livre, pois a vigilância constante passaria a ser naturalizada pelas futuras gerações (Bala, 2020, p. 250). Em trecho de sua obra, a autora assevera que: À medida que a tecnologia de reconhecimento facial melhora, os temores de privacidade também aumentam. Esses medos incluem preocupações legítimas sobre como os dados serão coletados, categorizados e armazenados. Mas há também uma questão separada relacionada aos efeitos do uso do reconhecimento facial para monitorar o engajamento em sala de aula na mente ainda em desenvolvimento das crianças. Até agora, a tecnologia geralmente tem sido descrita de maneira benéfica – motivando as mentes distraídas dos alunos a se concentrarem e fornecendo aos professores um feedback valioso sobre o quão bem os alunos estão aprendendo. No entanto, a vigilância das crianças pode ter um efeito profundo em seu desenvolvimento e em suas expectativas de privacidade mais tarde na vida. Além disso, o reconhecimento facial em salas de aula pode estigmatizar habilidades diferentes de concentração e até amplificar a relação escola-prisão. Em última análise, a vigilância tem consequências adversas: ao monitorar crianças em seu local de aprendizado, minamos uma sociedade livre. (Tradução nossa). (Bala, 2020, p. 250) A vigilância em massa promovida por sistemas de reconhecimento facial pode, a longo prazo, afetar inclusive o funcionamento da própria democracia, visto a privacidade ser um conceito central às sociedades plurais. Nesse sentido, a instalação de sistemas de reconhecimento facial para vigilância de espaços públicos, por si só, implica necessariamente em restrições ao direito à livre circulação, uma vez que quemnão deseja que o sistema colete seus dados biométricos tende a buscar caminhos oumeios de transporte alternativos, a fimde evitar que os seus dados sejam coletados de forma indiscriminada. O grau de intrusão deste tipo de tecnologia implica uma verdadeira vulnerabilidade ao direito à privacidade e, de forma associada, ao direito à proteção de dados pessoais (Garay; Venturini, 2021). Além disso, as capacidades de monitoramento e previsão de comportamentos comprometem o exercício do direito à livre associação, expressão e reunião pacífica, uma vez que possibilitamo per-

RkJQdWJsaXNoZXIy MjEzNzYz