Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

153 Andressa Kerschner e Haide Maria Hupffer fornecer serviços e coletar mais dados para a manutenção de serviços, ofertas e persuasão em decisões. A capa de utilitarismo que reveste as novas tecnologias traz essa falsa percepção de consciência e de consentimento. Desburocratizar tarefas diárias, agilizar pesquisas, indicar sugestões específicas e individualizadas ao gosto do usuário, conectar redes sociais, desenvolver sistemas inteligentes que auxiliem no dia-a-dia, disponibilizar serviços de geolocalização, utilizar dispositivos para patrulhar o corpo em busca de sinais de doença, facilitar transações financeiras e tantas outras facilidades, são esforços empreendidos pelas empresas de tecnologias com o fim de vigiar os indivíduos de forma imperceptível. Inicialmente, a leitura que se faz é que essas facilidades são benéficas, gratuitas e não como controladoras das experiências individuais e coletivas. Nesse sentido, como observado na análise sobre a contribuição de Zuboff ao escancarar o capitalismo de vigilância, compreender os malefícios deste novo sistema econômico é tarefa difícil, justamente pelo seu rápido desenvolvimento e por recrutar somente as coisas positivas da vida, atendendo às necessidades humanas. A autora convida a sociedade a indignar- -se e resistir, seja no nível individual ou no âmbito institucional, recusando-se a utilizar determinadas redes sociais, sistemas de busca, aplicativos, produtos e serviços. O estado de vigilância digital legitimado é uma ameaça e traz inúmeros riscos aos direitos humanos, ao desenvolvimento de uma personalidade saudável, à liberdade, privacidade, dignidade, autonomia e responsabilidade do indivíduo e sua cidadania, como também à democracia. Não se pode, pois, subestimar o poder do capitalismo de vigilância, das Big Tech, dos muitos egos dos desenvolvedores de sistemas de Inteligência Artificial e das grandes somas de dinheiro em jogo. A cada dia novas tecnologias são incorporadas aos softwares, mecanismos de pesquisa, assistentes virtuais, aplicativos de processamento de texto e uma camada de vigilância de dados é introduzida, enquanto o discurso da privacidade é insuficiente para compreender o real dano. Por outro lado, observa-se que estão surgindo reações contra a prática de coletar dados online indiscriminadamente e usuários estão optando emnão disponibilizar seus dados. De igual forma, mesmo timidamente, as reações as práticas de vigilância e controle estão chegando ao Poder Judiciário de diferentes

RkJQdWJsaXNoZXIy MjEzNzYz