Discriminação algorítmica e LGPD: o papel do princípio da adequação e qualidade nos datasets de treinamento de Sistemas de IA 184 e riscos que instigam estudos e geram questionamentos, sob o ponto de vista do Direito. Um dos problemas é a possibilidade de um sistema de IA “praticar” um ato discriminatório, consubstanciado em uma decisão algorítmica injusta, que amplifique discriminações sociais, inviabilize o exercício de direitos ou, até mesmo, cause prejuízos para as pessoas. Um sistema de IA necessita de uma quantidade massiva de dados para formar seu dataset e, por vezes, espelha condutas, atos humanos discriminatórios, sob o manto dos algoritmos. Nesse contexto, a Lei Geral de Proteção de Dados (LGPD) tem papel relevante diante da coleta, armazenamento e processamento de dados pessoais realizada nessa fase inicial, orientando desenvolvedores para a observância de salvaguardas legais e possíveis formas de enfrentamento do problema da discriminação algorítmica, notadamente com base nos princípios da adequação e da qualidade de dados. O presente texto objetiva estudar a intersecção entre o tema da IA e a proteção de dados, com foco na relação entre dados e algoritmos, os desafios éticos e legais da IA, a aplicabilidade da LGPD e as perspectivas futuras da regulamentação da matéria no Brasil. Sob perspectivametodológica, a presente pesquisa é exploratória e é desenvolvida a partir dométodo dedutivo, combase em investigação bibliográfica, legislativa e documental. O primeiro capítulo apresenta o panorama tecnológico atual, no que se refere ao uso e desenvolvimento de sistemas de IA e decisões automatizadas. A despeito do uso cada vez mais presente da IA, será apresentada a problemática da discriminação algorítmica e a sua relação com os bancos de dados que nutrem os sistemas de IA. O segundo capítulo se dedica ao debate da aplicabilidade da LGPD nessa fase inicial de desenvolvimento da IA, abordando conceitos, como “operação de tratamento de dados” para atração dos preceitos da legislação, assim como será posto em foco as razões pelas quais datasets são significantes para o sucesso de sistemas de IA. Feita essa aproximação, o terceiro capítulo discute, de forma específica, a importância do papel ativo e dinâmico do princípio da qualidade de dados e da adequação, assim como formas de sua utilização no contexto da IA, notadamente no manejo e formação de datasets. Nesse ponto também é evidenciada a relação entre a base de dados e a discriminação algorítmica.
RkJQdWJsaXNoZXIy MjEzNzYz