Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

Do ciberespaço ao capitalismo de vigilância: uma nova configuração de poder arquitetada sobre dados 148 1º4, art. 5º, inciso II5, art. 6º, inciso I6 e art. 11, inciso I7 da Lei Geral de Proteção de Dados e o art. 2º, inciso II do Decreto n. 10.046/20198. A partir da decisão, a Via Quatro foi proibida de captar imagens, sons e quaisquer outros dados biométricos dos consumidores do transporte público nometrô de São Paulo, semo seu consentimento. Também foi condicionada a readoção das referidas práticas somente à coleta com o consentimento prévio do usuário, mediante a divulgação de informações claras e específicas sobre a captação e o tratamento de dados (São Paulo, 2021). Casas e assistentes inteligentes também são exemplos de ferramentas de cybercontrole desenvolvidas sob premissas de inovação tecnológica. Assistentes pessoais inteligentes são àqueles sistemas que atendem aos comandos de voz para a realização de determinadas tarefas como pesquisar por algo, reproduzir uma música, ligar a televisão e ligar para determinado número de telefone, alertar sobre compromissos da agenda, enviar mensagens e outras facilidades. A casa inteligente, por sua vez, possui uma capacidade sensorial maior, permitindo que o sistema inteligente gerencie o sistema de ar-condicionado, controle a iluminação dos ambientes, ative o sistema de som e escolhe uma música, controle o consumo de energia, 4 “Art. 1º: Esta Lei dispõe sobre o tratamento de dados pessoais, inclusive nos meios digitais, por pessoa natural ou por pessoa jurídica de direito público ou privado, com o objetivo de proteger os direitos fundamentais de liberdade e de privacidade e o livre desenvolvimento da personalidade da pessoa natural [...]” (Brasil, 2018). 5 “Art. 5º [...] II – dado pessoal sensível: dado pessoal sobre origem racial ou étnica, convicção religiosa, opinião política, filiação a sindicato ou a organização de caráter religioso, filosófico ou político, dado referente à saúde ou à vida sexual, dado genético ou biométrico, quando vinculado a uma pessoa natural” (Brasil, 2018). 6 “Art. 6º As atividades de tratamento de dados pessoais deverão observar a boa-fé e os seguintes princípios: I – finalidade: realização do tratamento para propósitos legítimos, específicos, explícitos e informados ao titular, sem possibilidade de tratamento posterior de forma incompatível com essas finalidades; [...]” (Brasil, 2018). 7 “Art. 11. O tratamento de dados pessoais sensíveis somente poderá ocorrer nas seguintes hipóteses: I – quando o titular ou seu responsável legal consentir, de forma específica e destacada, para finalidades específicas; [...]” (Brasil, 2018). 8 “Art. 2º Para fins deste Decreto, considera-se: [...] II – atributos biométricos – características biológicas e comportamentais mensuráveis da pessoa natural que podem ser coletadas para reconhecimento automatizado, tais como a palma da mão, as digitais dos dedos, a retina ou a íris dos olhos, o formato da face, a voz e a maneira de andar; [...]” (Brasil, 2019).

RkJQdWJsaXNoZXIy MjEzNzYz