Vigilância algorítmica e discriminação abusiva: uma análise do Sistema SMART SAMPA à luz do princípio da não discriminação da LGPD (art. 6º, IX) 284 Esses registros de condução indevida, embora não dolosos, caracterizam discriminação abusiva por efeito, nos termos do art. 6º, IX da LGPD. A responsabilidade estatal é objetiva, com fundamento no risco administrativo (art. 37, §6º da CF) e reforço do art. 927, parágrafo único do Código Civil, uma vez que o Estado utiliza de tecnologia de risco acentuado semmecanismos eficazes de prevenção a danos. A gravidade dos achados exige a proposição de medidas corretivas e preventivas. Entre as soluções possíveis, destaca-se a obrigatoriedade de Avaliações de Impacto à Proteção de Dados (AIPD), previstas no art. 38 da LGPD, antes da implementação de sistemas de vigilância de alto risco. É imperativo, também, garantir a transparência algorítmica, com auditorias técnicas independentes que identifiquem e corrijam vieses discriminatórios. A atualização contínua das bases de dados integradas ao sistema, como o BNMP, é medida essencial para reduzir a incidência de erros. Finalmente, o fortalecimento institucional da Autoridade Nacional de Proteção de Dados (ANPD) é condição sine qua non para que o controle sobre o uso de tecnologias na segurança pública seja eficaz, lícito e legítimo. CONSIDERAÇÕES FINAIS Este artigo buscou analisar a relação entre a vigilância algorítmica implementada pelo sistema SMART SAMPA e a ocorrência de discriminação abusiva à luz do princípio da não discriminação estabelecido no art. 6º, inciso IX da LGPD. A pesquisa demonstrou que, embora a vigilância seja um fenômeno histórico que evoluiu do panóptico de Foucault para a sociedade da transparência de Han, a vigilância algorítmica contemporânea, impulsionada pelo big data e pelos algoritmos preditivos, apresenta riscos sociais e jurídicos sem precedentes, especialmente no que tange à discriminação. Foi evidenciado que a proteção de dados pessoais é um direito fundamental no Brasil, reforçado pela Emenda Constitucional n.º 115/2022 e que a LGPD estabelece princípios basilares para o tratamento de dados, como finalidade, adequação, necessidade, transparência e segurança. O princípio da não discriminação (art. 6º, IX) emergiu como sendo crucial, vedando o tratamento de dados para fins discriminatórios ilícitos ou abusivos, o que abrange a discriminação por efeito, mesmo sem intenção deliberada. A análise do
RkJQdWJsaXNoZXIy MjEzNzYz