Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Hipervigilância, hacking governamental, genocídio quântico e big data 12 de dados, da privacidade e de direitos individuais, envolvendo princípios democráticos modernos e os limites a tal vigilância em umEstado Democrático de Direito, já que pela falta de transparência, não há praticamente possibilidade de controle, prestação de contas e responsabilização em casos de abusos ou erros. Neste sentido, a adoção crescente da computação afetiva, affective computing, significando o reconhecimento e análise de afetos, emoções, sentimentos, por meio de sistemas de vigilância biométrica, envolvendo a intersecção de vários grupos de tecnologias, câmeras de vigilância, computação ubíqua, biometria e reconhecimento facial. Tais temáticas devem ser pensadas de forma crítica à luz dos novos colonialismos (de dados, de carbono, biocolonialismo), pois há uma maior fragilidade de países com passado histórico de discriminação quanto a parcelas da população, como afirma recente estudo da Rede de Observatórios de Seguranca3. O presente artigo visa, pois, trazer reflexões críticas, tendo por marco teórico as obras e o curso sobre vigilância ministrado pelo professor David Lyon em 2024, realizado na USP de Ribeirão Preto no CEADIN, coordenado por mim juntamente como professor Nuno Coelho. David Lyon é o investigador principal do Projeto de Vigilancia de big data, professor emerito de sociologia e direito na Queen’s University e ex-diretor do Centro de Vigilância e um dos maiores especialistas na temática. Visa-se trazer reflexões acerca de algumas de suas principais obras, emdiálogo comoutros autores que estudam o tema, envolvendo etapas anteriores a sociedade da vigilância digital, em especial acerca do pensamento de Foucault quanto aos seus estudos de sociedade da normalização, disciplina e regulamentação, e sua evolução nas obras de Deleuze e de Byung-Chun Han, com a perspectiva da sociedade de controle e do panóptico digital, analisando-se casos paradigmáticos concretos, a fim de se juntar uma análise teórica a uma prática, no sentido de uma phronesis significando para os gregos um conhecimento prático. 3 Disponível em https://observatorioseguranca.com.br/wordpress/wp-content/ uploads/2019/11/1relatoriorede.pdf?form=MG0AV3. Acesso em: 20 out. 2024.

RkJQdWJsaXNoZXIy MjEzNzYz