Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Do ciberespaço ao capitalismo de vigilância: uma nova configuração de poder arquitetada sobre dados 144 Contudo, ao utilizar o serviço disponibilizado, os usuários fornecem uma enorme quantidade de dados (rastros digitais) que, posteriormente, servirão para aperfeiçoar o próprio serviço de oferta, como para outros fins, inclusive o de venda dessas informações a terceiros (Zuboff, 2021, p. 72). Zuboff (2021, p. 105) também chega a falar que ninguém escapará do superávit comportamental. Os dados pessoais serão compartilhados e extraídos mesmo que se opte por não os compartilhar. Nos termos da autora, “usuários resistentes não serão obstáculos à expropriação de dados. Nenhuma restrição moral, jurídica ou social vai impedir a empresa de encontrar, reivindicar e analisar o comportamento alheio com propósitos comerciais”. Não há rota de fuga contra o poder invasivo. Tudo está conectado e o poder é identificado com a propriedade dos meios de modificação comportamental. A autonomia é irrelevante no capitalismo de vigilância “e a experiência vivida da autodeterminação psicológica é uma ilusão cruel”. Os seres humanos do Século XXI são reduzidos “a uma mera condição animal, inclinadas a servir às novas leis do capitalismo impostas a todos os comportamentos por meio da alimentação implacável de registros ubíquos em tempo real, baseados em fatos de todas as coisas e criaturas”. No capitalismo de vigilância, o direito à privacidade, intimidade, liberdade e livre desenvolvimento da personalidade são suplantados pelo sistema implantado pelas grandes empresas de tecnologia de recompensas e punição (Zuboff, 2018, p. 45-46). Na denúncia de Zuboff (2016), o capitalismo redistribui o direito de decisão ao regime de vigilância, abrindo uma dimensão inteiramente nova da desigualdade social. O capitalismo de vigilância não acumula apenas ativos e capital de vigilância, mas também direitos. Ao redistribuir unilateralmente direitos, o capitalismo de vigilância se sustenta e opera sem mecanismo de consentimento, especialmente, sem supervisão democrática expressa em lei e regulamento. Ele desafia os princípios e práticas de autodeterminação na vida psíquica, nas relações sociais, na governança e na política. Para a autora, as caixas pretas do capitalismo de vigilância despertam a sua indignação, visto que rebaixam a dignidade. Com essas reflexões, Zuboff (2016) convida todos se indignar com esse projeto de poder sem fronteiras.

RkJQdWJsaXNoZXIy MjEzNzYz