Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Do ciberespaço ao capitalismo de vigilância: uma nova configuração de poder arquitetada sobre dados 146 ponto de atenção da análise preditiva não é o volume de dados, mas o que se faz com os dados (Davenport, 2017, p. XV). O dia 11 de setembro de 2001 pode ser considerado emblemático para o desenvolvimento desenfreado da vigilância. Zuboff (2021, p. 25), refere que o ocorrido criou o chamado “período de exceção”, que motivou o desenvolvimento e aplicação de sistemas de vigilância sob a premissa da manutenção da segurança de forma mais incisiva. Com os ataques de 11 de setembro, o aparato da segurança nacional “estava predisposto a alimentar, imitar, proteger e se apropriar das emergentes capacidades do capitalismo de vigilância em nome de um conhecimento total e sua promessa de certeza absoluta”, para isso era necessário desenvolver novos sistemas de acumulação de dados baseados em vigilância (Zuboff, 2021, p. 144-147). O caso Snowden é outro exemplo de vigilância e monitoramento quando denunciou que a coleta de dados dos indivíduos nem sempre ocorre de forma “transparente e proporcional”. Em 2013, Snowden fez revelações sobre as práticas governamentais norte-americanas, no sentido de o governo impor às “empresas privadas (especialmente de telecomunicações e tecnologia) para que cooperassem na interceptação de vasta quantidade de dados e metadados da população”, semqualquer tipo de observação quanto às conformidades legais e regulatórias (Arruda; Resende; Fernandes, 2020, p. 6). Nas revelações realizadas, Snowden denuncia que a segurança nacional americana passou a acessar servidores de grandes empresas como a Amazon, o Google, a Apple e o Facebook para coletar informações sobre os usuários, colocando a segurança nacional acima da privacidade dos indivíduos. Assim, essas grandes empresas divulgaram uma “série de documentos reservados e sigilosos que tinham Acesso em: razão do serviço que prestavam para o governo americano”. Contudo, o governo norte-americano se recusava a admitir o exercício de práticas de vigilância e de monitoramento sobre os cidadãos, o que motivou Snowden a divulgar a prática ao conhecimento do público denunciando as questões relativas ao tratamento de dados, bem como sobre à forma como os dados são obtidos. Logo, o dever de transparência emerge como ponto crucial e de relevância social, pois reforça a prerrogativa do indivíduo de compreender às formas que o “ente estatal dispõe sobre seus dados” (Pereira Júnior et al., 2022, p. 7-9).

RkJQdWJsaXNoZXIy MjEzNzYz