Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

193 Gabriel Cemin Petry, João Sérgio dos Santos Soares Pereira e Karin Regina Rick Rosa ainda, a boa-fé, como princípio central, tanto na LGPD quanto no PL 2.338/23, este último que trata de Projeto, em debate no Congresso Nacional, para a elaboração da Lei Nacional de Inteligência Artificial. A aplicação da LGPD pressupõe uma operação de tratamento de dados pessoais (art. 3), que poderá ser realizada por pessoa física ou jurídica, pública ou privada, em território nacional, ou que vise a oferta de bens ou serviços e tenha sido coletada em território nacional. A lei brasileira define tratamento de dados como qualquer operação com dados pessoais, incluindo coleta, produção, recepção, classificação, utilização, acesso, reprodução, transmissão, distribuição, processamento, arquivamento, armazenamento, eliminação, avaliação, controle da informação, modificação, comunicação, transferência, difusão ou extração. Uma das funções da LGPD é criar um ambiente de confiança entre as empresas e os cidadãos, garantindo que os dados pessoais sejam tratados de forma segura e transparente. Portanto, o ponto de intersecção entre a LGPD e as relações que envolvem IA é a seleção de dados para integração de um dataset e o treinamento do sistema. Um sistema de IA se desenvolve em etapas, que inclui a coleta de dados, o pré-treino, e o refinamento. A coleta é o marco inicial do ciclo de vida dos dados pessoais, e a primeira operação de tratamento, a partir da qual outras tantas são desencadeadas. Dados pessoais, incluindo nomes, informações biográficas públicas, dados de formação acadêmica e profissional, páginas de internet, comentários em publicações, formam uma parte dos conjuntos de dados importantes para garantir a acurácia dos modelos. A quantidade de informações necessária para treinar um sistema de IA normalmente inclui milhões ou bilhões de dados provenientes de uma gama variada de fontes, como documentos, livros, códigos, imagens, áudio e vídeo. O uso de dados licenciados de terceiros também é possível e a coleta em larga escala desempenha um papel importante no incremento da performance nos sistemas de IA. Ao definir limites e parâmetros para coleta, armazenamento e uso dos dados pessoais, a LGPD previne abusos e a discriminação algorítmica, para que os sistemas sejam utilizados de forma justa e equitativa. Os dados são essenciais para o funcionamento de qualquer sistema de IA. Segundo bem destaca Floridi (2022, p. 59): “In parti-

RkJQdWJsaXNoZXIy MjEzNzYz