199 Gabriel Cemin Petry, João Sérgio dos Santos Soares Pereira e Karin Regina Rick Rosa intrusividade e exposição do sistema no caso de eventual auditoria, preservando-se o segredo de negócio. 5. TRATAMENTO LEGISLATIVO ATUAL PARA IA NO BRASIL Como visto, a IA tem transformado a forma como as organizações operam. Conforme ela evolui, novos projetos e leis reguladoras surgempara garantir que essas tecnologias sejamdesenvolvidas e utilizadas de modo responsável, o que exige desafios de conformidade. No Brasil, atualmente, tramita, perante o Senado, o Projeto de Lei n. 2338/2023, com 36 emendas, que dispõe sobre o uso da inteligência artificial, o que significa dizer que, no momento, não existe uma legislação específica para tratar do assunto. Contudo, as leis que regulam a proteção de dados, como a GDPR, na União Europeia, e a LGPD, no Brasil, e o tratamento de dados pessoais, inclusive nos meios digitais, com o objetivo de proteger os direitos fundamentais de liberdade e de privacidade, e o livre desenvolvimento da personalidade da pessoa natural, também se aplicam e são de cumprimento necessário na implantação de sistemas de IA. É possível apontar pelo menos três razões para a afirmação acima de que leis de proteção de dados são de extrema relevância para implementação assertiva de modelos de IA: a) existe uma dificuldade de entender como os sistemas de inteligência artificial e “machine learning” processam os dados e geram previsões e decisões. Frequentemente esses modelos contam com algoritmos intrincados e de difícil compreensão (black box, opaque decision-making), deixando os titulares de direitos vulneráveis à discriminação ou preconceitos; b) as organizações precisam respeitar os direitos dos titulares de dados relacionados à tomada de decisão automatizada, que pode ter significativas consequências legais e financeiras; c) as tecnologias que aplicam reconhecimento facial implicam tratamento de dados biométricos e exigem especial atenção. Vale repisar que a legislação brasileira de proteção de dados pessoais se aplica a qualquer operação de tratamento de dados por pessoa natural ou jurídica, independentemente do país de sua sede ou do país onde estejam localizados os referidos dados, desde que a operação seja realizada no Brasil, que as atividades de tratamento se dirijam à oferta ou ao fornecimento de bens ou serviços ou ao trata-
RkJQdWJsaXNoZXIy MjEzNzYz