177 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 3.3.1 O alcance normativo do direito à revisão de decisões automatizadas A falta de transparência, além de prejudicar a defesa dos sistemas algoritmos (sua integridade, funcionamento) contra o desenvolvimento e ocorrência de vieses (que tem o condão de, por vezes, obstaculizar direitos), pode tornar os sistemas mais suscetíveis à ataques – visto que pesquisadores não tem acesso e não podem analisá-los, a fim de explorar erros ou vulnerabilidades. Cientes do que fora exposto, anotam Scorza e Longo (2020, p. 53) que “essas razões levam cada vez mais a comunidade científica a reconhecer que, para serem utilizados em algumas áreas de alto risco, os sistemas de IA devem ter um comportamento verificável e explicável” (traduziu-se).51 Conforme atenta Lo Sapio (2021, p. 122-123) sem uma explicação quanto ao funcionamento do sistema, não é possível compreender eventual resultado discriminatório (se é derivado de mal funcionamento dos algoritmos ou pelo data set usado), prejudicando ações voltadas a prevenção contra esses riscos. Aliás, segundo o autor, é possível até mesmo questionar a compatibilidade da utilização de sistemas que operam como black boxes pela Administração Pública – que naturalmente possui um dever de transparência e publicidade52. A ausência transparência pode estimular, ainda, a “alienação técnica” decorrente da ofuscação dos processos tecnológicos, dando azo “a confiança extrema na imparcialidade e na neutralidade dos agentes que coletam, interpretam e compartilham os dados coletados”. 51 No original: “Tutti questi motivi stanno spingendo sempre più la comunità scientifica a riconoscere che, per essere utilizzati in alcuni ambiti ad alto rischio, i sistemi IA debbano avere un comportamento verificabile e spiegabile”. In: LONGO, Alessandro; SCORZA, Guido. Intelligenza artificiale: l’impatto sulle nostre vite, diritti e libertà. Milano: Mondadori Università, 2020. p. 53. 52 Sobre o uso de decisões automatizadas pela Administração Pública: HOFFMANN-RIEM, Wolfgang. Teoria geral do direito digital: transformação digital: desafios para o Direito. Rio de Janeiro: Forense, 2021. p. 159-164.
RkJQdWJsaXNoZXIy MjEzNzYz