Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

29 Paola Cantarini em grande escala. No mesmo sentido o Guia 2/2019 do Conselho Europeu de Proteço de Dados prevê a obrigatoriedade de avaliação dos riscos envolvidos no caso de dados biométricos advindos do uso tecnologias de videomonitoramento19. Contudo, há já informes publicados pela ANPD no sentido de recomendar sua elaboração no caso de alto risco, embora afirme que isto será avaliado pelo próprio agente de tratamento, listando situações específicas onde o documento poderá ser exigido pela mesma, ou seja, também aqui não deixando claro que se trata de documento obrigatório, sendo as seguintes situações elencadas20: • nas operações de tratamento efetuadas para fins exclusivos de segurança pública, defesa nacional, segurança do Estado ou atividades de investigação e repressão de infrações penais (art. 4º, § 3º); • quando o tratamento tiver como fundamento a hipótese de interesse legítimo (art. 10, § 3º); • para agentes do Poder Público, incluindo determinação quanto à publicação do RIPD (art. 32); e • para controladores em geral, quanto às suas operações de tratamento, incluindo as que envolvam dados pessoais sensíveis (art. 38). A fim de se reduzir a mitologia acerca da neutralidade e objetividade dos algoritmos e de suas predições, cumpre salientar que os dados são apenas uma amostra, e que nunca falam por si próprios, sendo certo que as correlações podem ser aleatórias, podendo gerar informações equivocadas à medida que há uma carência de conhecimentos contextuais e específicos do domínio, sendo fundamental que as equipe técnicas, geralmente da área das exatas (computação, matemática e engenharia) sejam ampliadas para conter pessoal qualificado e com expertise nas áreas do direito, da filosofia (ética), e da sociologia, em uma análise interdisciplinar e holística. 19 Disponível em: https://eur-lex.europa.eu/legal-content/PT/ALL/?uri=celex%3 A32016R0679; https://edpb.europa.eu/sites/edpb/files/files/file1/edpb_guideli nes_201903_video_devices_en_0.pdf. Acesso em: 20 out. 2024. 20 Disponível em: https://www.gov.br/anpd/pt-br/canais_atendimento/agente-de- tratamento/relatorio-de-impacto-a-protecao-de-dados-pessoais-ripd. Acesso em: 20 out. 2024.

RkJQdWJsaXNoZXIy MjEzNzYz