Discriminação algorítmica e LGPD: o papel do princípio da adequação e qualidade nos datasets de treinamento de Sistemas de IA 200 mento de dados de indivíduos localizados no território brasileiro, ou ainda, que os dados tenham sido coletados no Brasil. Nesse contexto, é possível questionar como a legislação sobre proteção de dados pessoais vigente regulamenta o uso da inteligência artificial. O ponto de partida é a avaliação de risco e estratégias de mitigação dos riscos. O artigo 2º da Lei 13.709/2018 cita os fundamentos da proteção de dados no território brasileiro, com destaque para o respeito à privacidade, à inviolabilidade da intimidade, da honra e da imagem, à defesa do consumidor, à dignidade e o exercício da cidadania pelas pessoas naturais, entre outros. Para que os sistemas de inteligência artificial e de machine learning respeitemos direitos dos titulares e atendamaos fundamentos da proteção de dados, o tratamento de dados pessoais deve estar fundamentado em uma das dez hipóteses previstas na lei. Além disso, é imprescindível a realização de uma avaliação dos riscos para o desenvolvimento de estratégias de eliminação ou, pelo menos, a mitigação dos riscos identificados. Projetos que envolvemmodelos de IA frequentemente se utilizam do tratamento de dados pessoais sensíveis, incluindo os de vulneráveis, em larga escala. É comum que decisões automatizadas, a partir dessas novas tecnologias, produzam perfilamento ou outra forma de classificação dos titulares de dados, combinação ou comparação de dados de múltiplas fontes (bancos de dados), dados de geolocalização, dados de crianças e adolescentes, compartilhamento com terceiros, transferência internacional e dados pessoais financeiros, a partir da base legal do legítimo interesse. Quanto mais essas hipóteses estiverem presentes, mais elevado será o risco e a necessidade de elaboração de um relatório de impacto, documento que contém a descrição dos processos de tratamento de dados pessoais que podem violar liberdades civis e direitos fundamentais. O relatório deve conter, também, as medidas, salvaguardas e mecanismos de mitigação do risco adotadas para aquela operação de tratamento, com a descrição dos tipos de dados coletados, a metodologia utilizada para coleta e para garantia da segurança das informações e a análise do controlador. O momento adequado para elaboração do mencionado relatório de impacto é o do início do projeto que será avaliado, pois o objetivo é que ele sirva como ferramenta para identificação dos riscos
RkJQdWJsaXNoZXIy MjEzNzYz