Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 134 Conforme atenta Russel (2021, p. 166), “o fato de o preconceito estar basicamente nos dados não significa, é claro, que não haja obrigação de tomar medidas para neutralizar o problema”. Nesse sentido, Matthews (2020, p. 86) explica que a “resistência a revisões” (Aggressively Resisting Review) é uma conduta problemática recorrente e preocupante por parte de desenvolvedores de sistemas – denominada de “antipattern” – que contraria princípios de transparência e accountability. Segundo a Matthews (2020), até mesmo especialistas em defesa de casos criminais não têm acesso ao código-fonte e aos detalhes do sistema quando os fornecedores de software reivindicam a proteção do trade secret. Inclusive, neste sentido, cita como exemplo o caso da ferramenta Forensic Statistical Tool (FST), em Nova Yorque, que era utilizada para examinar a compatibilidade de evidências através de exames laboratoriais de DNA (Matthews, 2020, p. 86). Portanto, o debate sobre segredo de negócio e transparência algorítmica revela-se particularmente sensível quando se trata de decisões em questões críticas, como saúde, segurança pública e acesso ao Poder Judiciário. A proteção pelo segredo de negócio, embora legítima do ponto de vista econômico (afinal, não se pretende desincentivar e criar entraves à inovação), não deve se sobrepor ao direito de pacientes, consumidores ou jurisdicionados de compreender e questionar as decisões que afetam diretamente suas vidas. A contrario sensu, a prevalência do segredo privilegiaria o anseio protetivo dos desenvolvedores contra a concorrência desleal em face da preservação de direitos (muitas vezes fundamentais) das pessoas que tem aspectos sensíveis de suas vidas impactados por decisões automatizadas. O problema da opacidade deixa de ser mero detalhe técnico e transforma-se em um risco concreto à dignidade da pessoa humana, à igualdade e, em alguns casos levados ao Poder Judiciário, ao direito fundamental de devido processo legal. Por isso, instrumentos de governança que conciliem a proteção da inovação com exigências mínimas de explicabi-
RkJQdWJsaXNoZXIy MjEzNzYz