Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Algoritmos como mecanismos de opressão à população LGBTQIAPN+ 236 do com a necessidade e utilidade das informações para o negócio. Isso só é possível porque esses processos de coleta, armazenamento, análise, interpretação e perfilamento se dão em quantidades massivas, por meio do que se chama Big Data4 e Big Analytics5. Esses modelos de negócio precisam se alimentar constantemente das informações dos usuários, para continuar em vigor e, para isso, baseiam-se no monitoramento, na vigilância e no controle das informações pessoais. Assim, todas as pessoas que usarem serviços de Internet estarão submetidas a essa lógica e podem ter seus direitos de privacidade violados a cada vez que mantiverem contato com um serviço estruturado na economia de dados, já que é possível, por meio da tecnologia, traçar padrões para as pessoas, a partir dos comportamentos que elas têm no mundo digital, identificando e prevendo as ações. Essa retirada dos dados é normalmente feita sem que os titulares sejam informados ou consultados e sem consentimento nem contrapartida, ou seja, pelo mero contato com as plataformas que operam na economia de dados, significando controle e poder, no que Shoshana Zuboff chamou de capitalismo de vigilância (Frazão; Carvalho; Milanez, 2022, p. 12-13). Omodelo de economia emque as Big Data e Big Analytics se baseiam tem permitido um acúmulo de informações sem precedentes. E esse acúmulo de conhecimento pelas empresas as colocam num lugar de exercício de poder, transformando coleta, armazenamento, análise, interpretação e perfilamento de dados em instrumentos para o exercício e a ampliação desse poder. Quanto mais se sabe sobre uma pessoa, mais se pode prever os movimentos e até influenciar comportamentos. Quando isso é feito em escala mundial, o poder passa a ser exercido no mundo todo, não importando mais os limites das empresas, dos governos, das cidades e muito menos as fronteiras entre países. E esse poder só é possível graças ao controle 4 “O termo Big Data refere-se a situações emque as tecnologias digitais são utilizadas para lidar comgrandes e diversas quantidades de dados e às várias possibilidades de combinação, avaliação e processamento desses dados por autoridades privadas e públicas em diferentes contextos.” (Hoffmann-Riem, 2022, p. 19). 5 O Big Data Analytics visa à expansão e utilização do conhecimento gerado por dados de todos os tipos, principalmente pelo uso da inteligência artificial, permitindo bemmais que a coleta, armazenamento e utilização de dados pessoais, que é o foco do Direito tradicional da proteção de dados (Hoffmann-Riem, 2022, p. 21).

RkJQdWJsaXNoZXIy MjEzNzYz