Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

151 Andressa Kerschner e Haide Maria Hupffer as informações obtidas em dados comportamentais. O capitalismo de vigilância trabalha com a combinação de “projeção de comportamentos futuros com estímulos” de forma que o comportamento humano se oriente sempre “na direção prevista pelos algoritmos” (Arbix; Brandão, 2020, p. 3). No capitalismo de vigilância é cada vez mais frágil a definição de “‘privacidade’, como o ‘direito de ser deixado só’”, na percepção de Rodotà (2008, p. 24). Avançando, o autor questiona: que informações sobre si mesmo que o cidadão estaria disposto “despir-se” completamente e sobre as quais renunciaria o direito de controle de seus dados? Para responder essa questão, os indivíduos devem ter a compreensão de que “até as informações mais inócuas podem, se integradas a outras, provocar dano ao interessado”. Nessa quadra da história e com o crescimento do capitalismo de vigilância alicerçado em Sistemas de Inteligência Artificial, algoritmos e Big Datas é cada vez mais difícil considerar que o cidadão é um “’simples fornecedor de dados’, sem que a ele caiba o controle”. A ele é exigido expor seu próprio eu, sua própria persona. Rodotà (2008, 36-37) denuncia que o cidadão raramente consegue perceber o real sentido da coleta de suas informações, não se dando conta do grau de periculosidade e do poder de vigilância e exploração que coloca nas mãos das organizações que capturam, tratam e disponibilizam dados. Para Rodotá (2008), a vigilância invade cada momento da vida dos bilhões de seres humanos que habitam no Planeta Terra, sendo o real motivo da sociedade da vigilância o da classificação e o da exclusão, com efeitos que podem afetar o livre desenvolvimento da personalidade, a privacidade, a liberdade e a formação para a participação política. De observar, que o berço do capitalismo de vigilância é o ciberespaço, que é um território sem leis e alimentado por dados e informações com o objetivo real de mudar o comportamento das pessoas em escala (Zuboff, 2016). Da coleta de dados à vigilância total o processo foi muito rápido e sema compreensão ou concordância das pessoas. Crescendo em ritmo acelerado e sem imposição de freios, o capitalismo de vigilância pressionou por mais usuários e por mais canais, dispositivos, serviços, produtos e espaço para coletar informações e gerar excedentes comportamentais que são transformados emprodutos de previsão e que impactamdiretamente na autonomia e no livre desenvolvimento da personalidade. Assim, o capitalismo

RkJQdWJsaXNoZXIy MjEzNzYz