Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Do ciberespaço ao capitalismo de vigilância: uma nova configuração de poder arquitetada sobre dados 136 ples busca na Internet, autoriza-se a leitura de nossas interações no ambiente digital, nossos dados e também o compartilhamento das informações. Empresas como o Google, ao monitorarem desde a respiração, conta bancária, acesso à informação, movimentos realizados, hábitos de consumo e batimentos cardíacos, transformam o ser humano em dados que alimentam uma imensa rede global. A humanidade poderá “chegar a um ponto que será impossível desconectar-se dessa rede onisciente por umsómomento” (Harari, 2016, p. 337-346). Han (2020, p. 10) deixa claro que a mudança radical de paradigmas propiciada pela Internet e pela nova mídia digital causam grandes impactos no dia a dia das pessoas, e de forma invisível foi alterando pensamentos, emoções, percepções e sensações, sem que a humanidade se desse conta das consequências dessa embriaguez. Para o autor, ao mesmo tempo em que a comunicação digital elimina distâncias geográficas ela desconstrói distâncias, expõe a esfera da intimidade, o que é privado se torna público,“privatiza a comunicação, ao deslocar a produção da informação do público para o privado”, ou seja, não é mais possível para a humanidade ter sua esfera privada resguardada (Han, 2020, p. 12-14). Com o avanço de sistemas de Inteligência Artificial cresce a preocupação com a expansão da vigilância governamental e de empresas privadas sobre dados pessoais coletados anonimamente, muitas vezes de forma abusiva e sem observar o direito à autodeterminação informacional, como observa Hoffmann-Riem (2022). Como exemplo, o autor cita que os dados brutos são processados, por pequenas e grandes empresas como Google, Amazon, Meta ou Microsoft, como também por órgãos governamentais e serviços secretos de diferentes países. O armazenamento e o processamento de dados, além de transmitir poder no mercado econômico e junto a governos, também cria mais conhecimento sobre as pessoas e novos tipos de “produtos ‘refinados’ com novo valor agregado” que são continuamente refinados para serem utilizados “como matéria-prima para outros ‘refinamentos’ relacionados a dados” e para fins não autorizados pelo titular dos dados (Hoffmann-Riem, 2022, p. 23). Diversas são as formas de coleta de dados pessoais, como também os motivos para realizar a coleta. Empresas privadas coletam dados para fins de marketing direcionado e de publicidade, cujo objetivo central corresponde a “aumentar sua eficácia comercial e,

RkJQdWJsaXNoZXIy MjEzNzYz