Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

143 Andressa Kerschner e Haide Maria Hupffer Sobre o tema, Frazão (2020, p. 540) refere que essa nova forma de exercício de poder econômico estruturado na extração de dados pessoais sempre vem acompanhado de “justificativas relacionadas às eficiências geradas e aos benefícios e vantagens que, de forma gratuita ou acessível, são disponibilizadas aos usuários”, tornando os malefícios dessa relação imperceptíveis, bem como colocando o indivíduo na posição de próprio produto do processo produtivo. Assim, os dados pessoais e o capitalismo de vigilância sempre serão duas faces de uma mesma moeda, pois enquanto houver uma valorização sobre os dados pessoais, sempre haverá um incentivo às tecnologias da vigilância que propiciam a sua coleta (Frazão, 2020, p. 540). Com efeito, é o capitalismo de vigilância que promove as transformações sociais, e não o desenvolvimento das novas tecnologias em si. Assim, na economia dos dados, o capitalismo de vigilância se caracteriza pela “divisão do poder econômico e social entre os donos de corporações digitais que são capazes de prever, modificar e até mesmo produzir comportamentos individuais” (Arbix; Brandão, 2020, p. 2). Nesse sentido, Hoffmann-Riem (2021, p. 85) chama à reflexão ao dizer que é imensurável o valor dos dados digitais coletados e que são gigantescos os lucros obtidos por empresas como o Google, assim como o Facebook, Amazon e demais empresas e corporações tecnológicas. Para o autor, os lucros obtidos e a busca pelos dados dos usuários instigam a refletir que o fornecimento dos serviços existentes em tais plataformas digitais talvez não seja tão gratuito o quanto essas empresas dizem ser (Hoffmann-Riem, 2021, p. 85). A justificativa da mercantilização dos dados pessoais mediante a violação da privacidade dos usuários é vista pelo capitalismo como uma espécie de troca necessária devido ao fornecimento de serviços pela internet de forma “gratuita”. Dito de outro modo, a troca da privacidade seria o ônus por obter informações e conexões instantâneas, sem fronteiras geográficas, transterritoriais e para as finalidades desejadas. Portanto, observa-se que o potencial dos dados digitais e todas as suas possibilidades de usos servem como uma espécie de explicação do porquê existe a sua monetização e mercantilização. Em uma relação, um tanto quanto conveniente entre as empresas e os usuários, os serviços encontrados no ciberespaço carregam uma premissa de gratuidade e facilidade.

RkJQdWJsaXNoZXIy MjEzNzYz