Vigilância algorítmica e discriminação abusiva: uma análise do Sistema SMART SAMPA à luz do princípio da não discriminação da LGPD (art. 6º, IX) 280 tativa, combinando a análise normativa da LGPD, a revisão bibliográfica dos autores de referência e a análise documental do relatório supracitado, oferecendo assim um panorama aprofundado sobre os limites éticos e legais da inteligência artificial na segurança pública. FUNDAMENTOS TEÓRICOS DA VIGILÂNCIA ALGORÍTMICA E SEUS RISCOS Este capítulo estabelece o marco teórico da pesquisa, aprofundando a compreensão da vigilância desde suas origens até as manifestações contemporâneas, e delineia os riscos inerentes à sua aplicação algorítmica. A discussão teórica inicia-se com a análise do panoptismo de Michel Foucault, que descreve a vigilância como um mecanismo de poder disciplinar onde a sensação de ser constantemente observado induz à autodisciplina. Foucault (2021) argumenta que essa estrutura, embora arquitetônica em sua origem, transcende o espaço físico para moldar comportamentos em diversas instituições sociais. Em contrapartida, Byung-Chul Han (2017) oferece uma perspectiva contemporânea, introduzindo o conceito de sociedade da transparência, onde a vigilância é exercida de forma aperspectivista e os indivíduos se autoexigem a exposição voluntária em plataformas digitais. Para Han, essa autoexposição, que se apresenta como liberdade, é uma forma mais sutil e eficiente de controle, onde a ausência de um observador claro dificulta a resistência. Essa base teórica é fundamental para compreender a vigilância algorítmica, que representa a convergência das tendências históricas da vigilância com as capacidades computacionais da era digital. A vigilância algorítmica se distingue pela sua escala, velocidade e automação na coleta, análise e tomada de decisão, utilizando algoritmos e big data para monitorar e prever comportamentos. O artigo aprofunda ao demonstrar como a combinação de algoritmos sofisticados e big data – caracterizado por volume, velocidade e variedade, conforme Munhoz (2022) – possibilita a predição comportamental, como a probabilidade de uma pessoa ser um foragido da justiça com base em reconhecimento facial e comparação com bancos de dados. Contudo, o texto ressalta que essa predição não é infalível, baseando-se em modelos estatísticos e dados de treinamento que podem
RkJQdWJsaXNoZXIy MjEzNzYz