187 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD Isso ocorre porque na ampla maioria dos casos esses impactos são incidentais, é dizer, não foram imputados expressamente nas regras do algoritmo. Por exemplo, é mais provável que uma aplicação de inteligência artificial com aprendizado de máquina (machine learning) tenha viés discriminatório contra mulheres em razão de uso de base de dados que reproduza essa discriminação histórica, do que uma aplicação que seja intencionalmente programada com uma regra expressa para exclusão de mulheres. Nesse sentido, o acesso ao código-fonte, além de violar o segredo, é inútil para as finalidades pretendidas (Gualtieri; López, 2023, p. 260). Constata-se que a auditoria do sistema, embora não seja um direito subjetivo do titular, representa uma ferramenta essencial para garantir a efetividade da revisão, ao mesmo tempo em que pode proteger segredo de negócio existente no modelo algorítmico examinado. Ao permitir a verificação de eventuais práticas discriminatórias sem a revelação do código-fonte (por exemplo), o modelo da LGPD revela-se pragmático e equilibrado, pautado a atuação proativa e fiscalizadora da Autoridade Nacional de Proteção de Dados. No entanto, é preciso destacar que a ausência de detalhamento procedimental e a dependência da atuação ativa da ANPD podem também gerar insegurança quanto à efetividade desse mecanismo. Portanto, a flexibilização administrativa do segredo de negócio deve ser acompanhada de regulamentação quanto ao procedimento, garantindo transparência suficiente para o titular e previsibilidade para os desenvolvedores. 3.3.3 A revisão judicial e os limites da perícia técnica Destaca-se que, para além da seara administrativa e extrajudicial, a discussão quanto ao teor do algoritmo também pode ser travada em juízo – embora não sejam costumeiramente revelados em processos judiciais (como servem de exemplo os casos da Decolar e Uber, referidos no subcapítulo 3.1). Eis, então um problema de natureza processual: ainda
RkJQdWJsaXNoZXIy MjEzNzYz