Discriminação algorítmica e LGPD: o papel do princípio da adequação e qualidade nos datasets de treinamento de Sistemas de IA 194 colare, senza dati, gli algoritmi – inclusa l’IA – non vanno da nessuna parte, come un motore con un serbatoio vuoto” (sem dados, os algoritmos não vão a lugar nenhum). Não à toa consta da Estratégia Nacional para IA italiana: “dati sono il carburante delle tecnolgie IA” (dados são o combustível das tecnologias de IA) (Itália, 2020), razão pela qual são indispensáveis para o treinamento domodelo algorítmico a ser posteriormente utilizado. Medon (2022, p. 304) também se vale da analogia para indagar pertinente questionamento: “se estes representam o motor do processo decisório, por certos dados são o combustível e a matéria-prima. E se o combustível de um veículo está corrompido, como esperar que ele funcione bem?”. A acurácia dos dados coletados que formam os datasets utilizados como entrada para os sistemas de IA é um fator crucial para garantir a qualidade e a confiabilidade das saídas geradas por esses sistemas. O sistema de IA aprende com os dados que recebe, logo, se esses dados forem imprecisos, desatualizados, tendenciosos ou incompletos, os modelos tendem a reproduzir e amplificar esses erros. A Confederação das Organizações europeias de proteção de dados (CEDPO) chama atenção para a responsabilidade dos DPOs no processamento de dados incorretos: Data protection officers (DPOs) must remain aware, then, of the risks of processing inaccurate data. Users within a DPO’s organisation should be given clear guidelines to help them to understand that the outputs of any generative AI tools, such as ChatGPT, come with a health warning, namely, that the human user is still ultimately responsible for verifying the accuracy of any personal data obtained. This is a critical point (CEDPO, 2023). Sobre a utilização de dados pessoais no treinamento de modelos algoritmos, esclarece Krokmaz (2023, p. 22): Entre suas múltiplas potencialidades, o tratamento de dados passa a ser utilizado com o fim de suprir uma carência de informações, sobretudo como uma tentativa de antever o futuro. Em outros termos, dados e informações conhecidos são utilizados para fazer inferências sobre elementos que não se conhece ou se conhece de maneira insuficiente. Nessa direção, o processamento de dados se apresenta como uma forma de simplificar decisões e de incrementar a eficiência emambientes caracterizados por déficits de informação.
RkJQdWJsaXNoZXIy MjEzNzYz