Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

11 HIPERVIGILÂNCIA, HACKING GOVERNAMENTAL, GENOCÍDIO QUÂNTICO E BIG DATA Paola Cantarini1 1. INTRODUÇÃO A vigilância é uma dimensão-chave do mundo moderno, e hoje está intimamente relacionada com o big data: Projeto The big data Surveillance, Centro de Estudos de Vigilância do Canadá2, a exemplo de aplicações de IA tais como: reconhecimento facial, policiamento preditivo, em termos de uma vigilância que agora se caracteriza em massa, sob o slogan “coletar tudo”, a partir da análise e acesso a um enorme volume de dados pessoais. Além de podermos falar em uma vulnerabilidade geral, a partir da ubiquidade informacional e ausência de simetria em tal relação, tambémé cada vezmais frequente a utilização de aplicações de IA possibilitando a previsão e automatização em tempo real de resultados e modulamento de comportamentos, intenções e emoções humanos (neuromarketing, captologia, data brokers, affective computing), trazendo novas vulnerabilidades específicas, suscitando diversas problemáticas que vão muito além da proteção 1 Advogada, Professora universitária, PhD em Direito, em Filosofia, (PUC-SP) e em Filosofia do Direito (Unisalento); Pós-Doutora em Direito, Filosofia e Sociologia (PUCSP-TIDD, EGS- European Graduate School, Universidade de Coimbra/CES, USP – Filosofia e TGD, University of Reggio Calabria, e IEA/USP-Cátedra Oscar Sala). Pesquisadora do IEA/projeto UAI -coordenadora da equipe de governança; pesquisadora no Instituto Avançado de AI, pesquisadora do C4AI – Centro de Inteligência Artificial (USP), Presidente e Pesquisadora no EthikAI – ethics as a service. Membro de diversas Comissões da OABSP. Este texto faz parte das pesquisas desenvolvidas em sede de pós-doutorado na USP/RP em IA com bolsa Fapesp. 2 Projeto The big data Surveillance, Centro de Estudos de Vigilância do Canadá, disponível em https://www.surveillance-studies.ca. Acesso em: 20 out. 2024. DOI: https://doi.org/10.29327/5448881.1-1

RkJQdWJsaXNoZXIy MjEzNzYz