Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

147 Andressa Kerschner e Haide Maria Hupffer No Brasil, tem-se o exemplo da ação “portas interativas” da Via Quatro no Metrô de São Paulo que instalou uma tecnologia de reconhecimento facial para a identificação de pessoas e que foi objeto de uma Ação Civil Pública ajuizada pelo IDEC (Instituto Brasileiro de Defesa do Consumidor). A ACP objetivou a cessação e a proibição da coleta e do tratamento de dados biométricos colhidos, sem o consentimento dos usuários do transporte público pela empresa Via Quatro. A ACP buscava colocar freios ao caráter invasivo da vigilância realizada no monitoramento dos indivíduos sem o conhecimento e autorização dos usuários, resguardando os direitos assegurados na Lei Geral de Proteção de Dados. A ação foi julgada procedente, ou seja, a Via Quatro foi impedida de reativar os dispositivos de reconhecimento facial à distância (São Paulo, 2021). A empresa Via Quatro tentou reverter o resultado da ação apresentando argumentos de que a captação de imagens seria apenas para fins estatísticos. Aduziram, como tese defensiva, que os dados coletados por meio das chamadas “portas interativas” se destinavam, exclusivamente, para a “detectação através de uma imagem, de características faciais totalmente desvinculadas à identidade de uma pessoa, mediante a utilização de algoritmos computacionais”. Segundo a Via Quatro, coletavam somente “dados estatísticos, absolutamente incapazes de identificar o usuário”, servindo apenas para “contar pessoas, visualizações, tempo de permanência, tempo de atenção, gênero, faixas etárias, emoções, fatos de visão, horas de pico de visualizações e distância de detecção”, sem que houvesse a captação de dados dos usuários individualizados. A decisão de segundo grau manteve a condenação da empresa, sendo fundamentada nos seguintes dispositivos legais (referentes à proteção de dados): art.

RkJQdWJsaXNoZXIy MjEzNzYz