Gabriel Cemin Petry Haide Maria Hupffer INTELIGÊNCIA ARTIFICIAL E SEGREDO DE NEGÓCIO: UMA APROXIMAÇÃO A PARTIR DA LGPD Casa Leiria Apresentação de João Sergio dos Santos Soares Pereira Prefácio de José Luiz de Moura Faleiros Júnior
Este livro é o resultado da pesquisa e das relações interinstitucionais produzidas no âmbito do seguinte projeto de investigação científica: INTELIGÊNCIA ARTIFICIAL E SOCIEDADE DE ALGORITMOS: REGULAÇÃO, RISCOS DISCRIMINATÓRIOS, GOVERNANÇA E RESPONSABILIDADES Fundação de Amparo à Pesquisa do Estado do Rio Grande do Sul FAPERGS Processo número 61271.674.22274.26112021 Edital Fapergs 07/2021 Programa Pesquisador Gaúcho – PqG
GABRIEL CEMIN PETRY HAIDE MARIA HUPFFER CASA LEIRIA SÃO LEOPOLDO/RS 2025 INTELIGÊNCIA ARTIFICIAL E SEGREDO DE NEGÓCIO: UMA APROXIMAÇÃO A PARTIR DA LGPD
INTELIGÊNCIA ARTIFICIAL E SEGREDO DE NEGÓCIO: UMA APROXIMAÇÃO A PARTIR DA LGPD Gabriel Cemin Petry Haide Maria Hupffer DOI: https://doi.org/10.29327/5718579 Capa: imagem gerada por IA usando Microsoft Copilot, com o prompt "IA e negócio". Os textos são de responsabilidade dos autores. Qualquer parte desta publicação pode ser reproduzida, desde que citada a fonte. Catalogação na Publicação Bibliotecária: Carla Inês Costa dos Santos – CRB: 10/973 Casa Leiria Ana Carolina Einsfeld Mattos Ana Patrícia Sá Martins Antônia Sueli da Silva Gomes Temóteo Glícia Marili Azevedo de Medeiros Tinoco Haide Maria Hupffer Isabel Cristina Arendt Isabel Cristina Michelan de Azevedo José Ivo Follmann Luciana Paulo Gomes Luiz Felipe Barboza Lacerda Márcia Cristina Furtado Ecoten Rosangela Fritsch Tiago Luís Gil Conselho Editorial (UFRGS) (UEMA) (UERN) (UFRN) (Feevale) (Unisinos) (UFS) (Unisinos) (Unisinos) (UNICAP) (Unisinos) (Unisinos) (UnB) Petry, Gabriel Cemin D771n A inteligência artificial e segredo de negócio : uma aproximação a partir da LGPD [recurso eletrônico]. / por Gabriel Cemin Petry, Haide Maria Hupffer. – São Leopoldo : Casa Leiria, 2025. Disponível em:<https://www.casaleiriaacervo.com.br/direito/ IAsegredo/index.html> ISBN 978-85-9509-170-2 1. Direito – Tecnologia. 2. Direito – Inteligência artificial. 3. Lei Geral de Proteção de Dados (LGPD) – Direito – Decisões automatizadas. 4. Sistema jurídico brasileiro – LGPD. 5. Direito – Revisão de decisões automatizadas. 6. Segredo industrial – Direito. I. Hupffer, Haide Maria. II. Título. CDU 34:004
INTELIGÊNCIA ARTIFICIAL E SEGREDO DE NEGÓCIO: UMA APROXIMAÇÃO A PARTIR DA LGPD
AGRADECIMENTOS À mãe Loiva, pela força que inspira; aos irmãos Rafael, Márcio, Daiana e Adriana, pela parceria de vida; à Andressa, por ser presença constante e generosa; e ao pai Edo (in memoriam), cuja memória nos acompanha com ternura e saudade. Aos grandes mestres que deixaram marcas profundas em minha formação — Paulo Gilson Roos, Karin Regina Rick Rosa e Patrícia de Oliveira Mello (in memoriam). Seus ensinamentos vão muito além da vida profissional: são lições de ética, coragem e humanidade que seguirei sempre levando comigo. Este trabalho é uma pequena homenagem a vocês. Aos amigos do Direito e da vida, que mesmo distantes estiveram sempre por perto. Vocês foram luz nos dias difíceis e alegria nos dias bons. À Haide Maria Hupffer, mestra generosa e parceira de escrita, cuja sabedoria e sensibilidade foram essenciais nesta jornada. Gabriel Cemin Petry
A todos que, de alguma forma, contribuíram para que este livro ganhasse forma — nossa gratidão e carinho. Este livro nasceu de muitas conversas, ideias trocadas e apoios recebidos ao longo do caminho. A cada pessoa que esteve por perto — com palavras, gestos ou silêncios cheios de sentido — nosso muito obrigado. Gabriel Cemin Petry e Haide Maria Hupffer
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 8 SUMÁRIO PREFÁCIO ................................................................................... 11 José Luiz de Moura Faleiros Júnior APRESENTAÇÃO ........................................................................ 17 João Sergio dos Santos Soares Pereira INTRODUÇÃO ............................................................................ 21 PARTE I: NOVAS TECNOLOGIAS, INTELIGÊNCIA ARTIFICIAL E O DIREITO À PROTEÇÃO DE DADOS 1. Inteligência Artificial e Direito: desenvolvimento e utilização da tecnologia e seu entrelaçamento com o direito à proteção de dados ............................ 31 1.1 A quarta revolução industrial e a neologia “onlife”: a (in)dependência humana das novas tecnologias ......... 31 1.1.1 Novas tecnologias e a quarta revolução industrial ........... 33 1.1.2 A neologia onlife e a gradativa dependência do desenvolvimento tecnológico ................................................ 36 1.1.3 Internet das Coisas, Cidades Inteligentes, plataformas digitais e a participação cidadã no ambiente digital: ....... 41 1.1.4 Dados (pessoais), Big Data e a exploração econômica de dados ................................................................................ 46 1.1.5 Algoritmos e Black Boxes ..................................................... 51 1.2 Inteligência Artificial e decisões automatizadas: escopo de aplicação e questões críticas ........................... 55 1.2.1 Notas sobre o conceito de Inteligência Artificial ................ 56 1.2.2 Aplicações e preocupações no desenvolvimento de sistemas de IA ........................................................................ 63 1.2.3 Aplicação de sistemas de IA em questões críticas .............. 69 1.3 A incidência da Lei Geral de Proteção de Dados em sistemas de IA voltados a tomada de decisões automatizadas ...................................................................... 73 1.3.1 O direito à privacidade e o direito à proteção de dados .... 74 1.3.2 Dados e Inteligência Artificial ............................................. 84 1.3.3 Proteção de dados no âmbito da Inteligência Artificial .... 89
9 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD PARTE II: SEGREDO DE NEGÓCIO, INTELIGÊNCIA ARTIFICIAL E PROPRIEDADE INTELECTUAL 2. O segredo de negócio e a sua relação com sistemas de inteligência artificial ........................... 101 2.1 Perspectivas introdutórias sobre o direito de proteção ao segredo industrial e comercial ................................... 101 2.1.1 O segredo industrial e comercial ...................................... 104 2.1.2 A proteção do Know-How .................................................. 107 2.1.3 As informações confidenciais ............................................ 109 2.1.4 A proteção infraconstitucional do segredo ...................... 110 2.2 Proteção da propriedade intelectual no contexto da inteligência artificial: patentes, direitos autorais e segredo de negócio ............................................................ 116 2.2.1 A natureza jurídica da Inteligência Artificial e os limites das categorias clássicas de propriedade ............... 116 2.2.2 Patentes e direitos autorais na proteção de sistemas de Inteligência Artificial .................................................... 123 2.2.3 O segredo de negócio para proteção de sistemas de Inteligência Artificial ......................................................... 127 2.3 Black boxes: critica a aplicação do segredo de negócio e o seu impacto em decisões automatizadas .. 129 2.3.1 Os possíveis desafios da confidencialidade e segredo de negócio em sistemas algorítmicos no contexto do Poder Judiciário brasileiro ........................................................... 130 2.3.2 Segredo e transparência algorítmica: o impacto da IA em questões críticas. ...................................................... 132 2.3.3 Contornos jurídicos de um efeito colateral: Black Boxes e discriminação algorítmica. .................................. 135
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 10 PARTE III: PROTEÇÃO DE DADOS, SEGREDO DE NEGÓCIO E INTELIGÊNCIA ARTIFICIAL 3. Contrastes entre o direito ao segredo de negócio e o direito de revisão de decisão automatizada da LGPD ...................................................................... 149 3.1 Princípios presentes na regulação da inteligência artificial e os seus entrelaçamentos com o segredo de negócio ........................................................................... 149 3.1.1 Princípios para a regulação da IA .................................... 150 3.1.2 Transparência (algorítmica) e os desafios da explicabilidade ................................................................... 155 3.1.3 Segredo de negócio e proteção de dados: riscos e tratamento regulatório ...................................................... 158 3.2 A aparente (in)conciliação entre a proteção de dados e o segredo industrial ............................................ 163 3.2.1 Preservação do segredo vs. Princípios da LGPD .............. 163 3.2.2 Os Direitos do titular de dados no contexto do segredo de negócio .............................................................. 167 3.2.3 O Direito de revisão de decisão automatizada e o papel da ANPD .................................................................... 172 3.3 O direito à revisão de tomada de decisões automatizadas e a flexibilização do segredo de negócio ................................................................................ 176 3.3.1 O alcance normativo do direito à revisão de decisões automatizadas .................................................................... 177 3.3.2 A flexibilização do segredo de negócio pela via administrativa ................................................................... 182 3.3.3 A revisão judicial e os limites da perícia técnica ............ 187 CONSIDERAÇÕES FINAIS ...................................................... 193 REFERÊNCIAS ......................................................................... 205 ÍNDICE REMISSIVO ................................................................. 223
11 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD PREFÁCIO José Luiz de Moura Faleiros Júnior Doutor em Direito Civil pela Universidade de São Paulo e em Direito, Tecnologia e Inovação pela Universidade Federal de Minas Gerais. Mestre e Bacharel em Direito pela Universidade Federal de Uberlândia. Especialista em Direito Digital. Advogado. Professor. Foi com sincera honra que recebi o convite para prefaciar esta obra, cujos autores, Gabriel Cemin Petry e Haide Maria Hupffer, venho acompanhando de perto nos últimos anos. A cada nova pesquisa, a maturidade de suas análises e a precisão teórica de suas interpretações reafirmam seu compromisso com a dogmática jurídica de ponta e com os dilemas éticos e regulatórios da era digital. Ambos têm desenvolvido um pensamento jurídico sensível à complexidade dos tempos tecnológicos. São estudiosos que compreendem o direito não como simples instrumento de regulação, mas como linguagem de sentido, capaz de produzir equilíbrio e justiça em um mundo movido por dados, algoritmos e segredos industriais. Sem dúvidas, acompanhar sua trajetória acadêmica tornou-me um ávido entusiasta de seus trabalhos. Cada artigo, palestra e projeto reflete o zelo metodológico, o rigor conceitual e o humanismo que dão forma a uma geração de juristas comprometidos com o futuro ético das inovações. A temática ora enfrentada – a tensão entre o segredo industrial e a transparência algorítmica – revela o âmago daquilo que poderíamos chamar de drama epistemológico do século XXI. É o conflito entre a exigência de abertura das estru-
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 12 turas decisórias automatizadas e o dever jurídico de preservar a confidencialidade técnica que sustenta a inovação. Sistemas de inteligência artificial, nessa arena, são uma espécie de novo Leviatã cognitivo. Não mais se limitam a reproduzir decisões humanas: criam, predizem, reinterpretam e, em certos contextos, substituem o próprio ato humano de julgar, analisar e escolher. O Direito, por conseguinte, vê-se compelido a redefinir categorias clássicas sob a influência de sistemas que, embora desprovidos de consciência, produzem efeitos reais sobre a liberdade e a igualdade. De outro lado, o segredo industrial ergue-se como guardião do engenho humano e das vantagens competitivas que impulsionam a economia da inovação. Protege o esforço, o investimento e a pesquisa, constituindo expressão legítima da liberdade de iniciativa. No entanto, o mesmo manto protetor que resguarda o saber técnico pode converter-se, se mal manejado, em véu de opacidade sobre decisões que atingem direitos fundamentais. Assim, instaura-se o dilema: como compatibilizar a reserva técnica do segredo com a exigência de transparência algorítmica prevista na LGPD? Como conciliar a confidencialidade empresarial com o direito de revisão de decisões automatizadas? As respostas não se encontram em simplificações binárias, mas em uma hermenêutica da ponderação, sustentada na lógica da proporcionalidade e na teleologia constitucional do equilíbrio. Os autores penetram nesse labirinto conceitual com admirável segurança. Combinam análise dogmática e sensibilidade filosófica para demonstrar que a transparência não é antítese do segredo, mas sua contraparte dialética: ambos coexistem como polos de uma mesma racionalidade jurídica voltada à promoção do bem comum e da confiança institucional. A leitura minuciosa dos capítulos evidencia que Petry e Hupffer não se deixam enredar por reducionismos tecnocráticos. Reconhecemque a inteligência artificial é mais do que ferramenta: é linguagem, gramática e poder. E o segredo, longe
13 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD de ser mero expediente contratual, converte-se em categoria axiológica que interliga a técnica à ética, a inovação ao limite. A partir do artigo 20 da Lei Geral de Proteção de Dados Pessoais, emerge a figura central do direito de revisão de decisões automatizadas. Tal dispositivo inaugura, no sistema jurídico brasileiro, um ponto de inflexão entre o público e o privado, o humano e o maquínico. Exige que a opacidade do algoritmo seja mitigada, sem, contudo, violar a estrutura econômica que depende da proteção do segredo industrial. Trata-se de uma espécie de dialética da translucidez: não a transparência absoluta – que destrói o segredo –, mas a clareza suficiente para permitir a revisão, a accountability e a proteção dos direitos do titular de dados. É nesse delicado equilíbrio que se situa a obra: um esforço de construção dogmática capaz de traduzir a ética da responsabilidade em norma jurídica eficaz. O mérito maior do trabalho está em revelar que o segredo industrial, na era da inteligência artificial, transcende a noção de fórmula guardada em cofres. Ele se projeta sobre arquiteturas de código, parâmetros de treinamento, bases de dados e estruturas de machine learning – elementos intangíveis que compõem o âmago do capital cognitivo contemporâneo. O segredo tornou-se dinâmico, fluido, mutável, e, por isso mesmo, mais vulnerável. Com essa percepção, os autores mostram que, enquanto a patente exige publicidade como condição de validade, o segredo demanda silêncio como condição de sobrevivência. Paradoxalmente, o progresso científico atual depende da convivência entre ambos: a divulgação que alimenta o saber comum e a reserva que assegura o incentivo à descoberta. Nesse contexto, a LGPD desempenha função equilibrante. É o instrumento normativo que tenta reconciliar a liberdade de pesquisa e o controle sobre a informação pessoal. Assim, ao reconhecer o direito de revisão de decisões automatizadas, ela não anula o segredo, mas lhe impõe função social, de modo que a confidencialidade técnica não possa converter- -se em blindagem à responsabilidade. A autoridade regulatória (a ANPD) surge, outrossim, como intérprete prudente dessa
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 14 tensão, encarregada de promover a coexistência entre eficiência tecnológica e proteção da personalidade humana. Trata-se de uma jurisdição da confiança, na qual a auditoria técnica deve ser conduzida sob sigilo e parcimônia, assegurando simultaneamente o escrutínio e a preservação do segredo. Do ponto de vista filosófico, a obra projeta uma leitura profundamente inspirada na ética da informação de Luciano Floridi e na ciberdogmática de Mireille Hildebrandt. A realidade “onlife”, descrita por tais autores, dissolve as fronteiras entre o digital e o físico, exigindo que o Direito “aprenda a pensar” em ambientes híbridos, onde a norma opera dentro do próprio código. Nessa ambiência, o segredo industrial não é apenas uma cláusula de confidencialidade, mas elemento constitutivo da arquitetura algorítmica. De outro lado, a noção de caixa-preta adquire, aqui, valor simbólico: é a metáfora da razão técnica que precisa ser iluminada sem ser destruída. O livro demonstra que abrir a caixa-preta integralmente seria matar o segredo; mantê-la hermeticamente selada seria negar o controle democrático. O caminho está em entreabri-la sob a luz controlada da proporcionalidade e da tutela pública. Sob a lente do Direito Civil contemporâneo, esta obra é ummarco de integração interdisciplinar. O segredo industrial, tradicionalmente circunscrito à esfera patrimonial, passa a dialogar com direitos existenciais, com a tutela da personalidade e com o regime de proteção de dados pessoais. A inteligência artificial, por sua vez, deixa de ser mera questão tecnológica e assume contornos de responsabilidade civil objetiva, fundada na teoria do risco da atividade. A partir dessa moldura, os autores demonstram que o dever de diligência dos desenvolvedores e operadores de IA deve incluir a avaliação prévia de riscos ético-jurídicos, sob pena de violação da boa-fé objetiva e do dever de segurança informacional. O segredo, nesse cenário, deixa de ser fortaleza e torna-se mecanismo de equilíbrio. Noutro quadrante, o diálogo que Petry e Hupffer estabelecem entre o AI Act europeu e o Projeto de Lei n.º 2.338/2023 é particularmente valioso. Mostramque a experiência interna-
15 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD cional caminha para a institucionalização de uma governança de risco, em que a opacidade não é interditada, mas administrada por protocolos de documentação, explicabilidade e supervisão. Essa abordagem pragmática preserva o incentivo à inovação sem abdicar da ética da transparência – um equilíbrio que o Brasil, em fase de amadurecimento normativo, deve perseguir. É notável como o texto articula, com erudição, conceitos provenientes do Direito, da Filosofia da Tecnologia e da Teoria da Informação. O resultado é um discurso polifônico, que atravessa disciplinas, sem perder o centro gravitacional do Direito como ciência prática. Ao longo da leitura, o leitor perceberá que não se trata de mera pesquisa descritiva. A obra é, sobretudo, um ato de construção dogmática: os autores propõem que a transparência algorítmica seja compreendida não como dever de revelação integral, mas como dever de justificação racional das decisões automatizadas. É uma reconfiguração do próprio conceito de publicidade jurídica: uma publicidade do raciocínio, não da fórmula. Essa concepção desloca o eixo da responsabilidade: em vez de exigir a exposição do código-fonte, demanda-se a demonstração do raciocínio lógico que conduziu à decisão, permitindo sua revisão sem comprometer a integridade do segredo industrial. Com elegância teórica, a obra nos recorda que a função última do Direito não é a de impedir o progresso, mas de humanizá-lo. A racionalidade algorítmica, se deixada sem freios, pode reduzir o indivíduo a dado estatístico; mas o Direito, ao impor transparência e revisão, devolve humanidade às decisões automatizadas. Nesse sentido, o segredo deixa de ser antônimo de luz e passa a representar o limite ético da curiosidade, o espaço onde a técnica preserva sua legitimidade. A transparência, por seu turno, converte-se em virtude democrática, que impede que a técnica se erga como poder incontrolável. Ao tratar da proteção dos segredos industriais e da explicabilidade algorítmica, Petry e Hupffer recolocam o Direi-
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 16 to no centro da tecnosfera: como linguagem de legitimidade, como critério de justiça e como instrumento de equilíbrio entre eficiência e humanidade. Leitor algum sairá indiferente a estas páginas. Cada argumento, cada referência doutrinária, cada análise comparada convida à reflexão profunda sobre o futuro do Direito e das instituições diante do poder crescente das máquinas inteligentes. Assim, ao concluir este prefácio, renovo minha admiração por esta dupla de juristas, cuja lucidez desponta como farol no oceano de incertezas que caracteriza a contemporaneidade. Gabriel Cemin Petry e Haide Maria Hupffer oferecem, aqui, mais que uma obra jurídica: oferecem uma arquitetura de pensamento para o século XXI, em que o segredo e a transparência aprendem a dialogar sob o signo da razão pública e da ética informacional. Convido, pois, o leitor a não apenas ler, mas mergulhar neste livro. Que percorra suas páginas como quem atravessa um labirinto iluminado – ora pelas claridades da dogmática, ora pelas penumbras da filosofia – e descubra, ao fim, que a verdadeira chave da convivência entre tecnologia e Direito está na prudência: a sabedoria de revelar o suficiente e resguardar o necessário. Belo Horizonte, outubro de 2025.
17 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD APRESENTAÇÃO João Sergio dos Santos Soares Pereira Doutor em Direito, Estado e Constituição pela Universidade de Brasília (UnB), com ênfase em Direito Processual e Tecnologia. Mestre em Direito Constitucional pelo Instituto Brasiliense de Direito Público/Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP/DF). Autor de diversas obras jurídicas. Especialista emDireito Público e Privado pela EMERJ; em Advocacia Pública e Direito pela PGE-RJ (ESAP) e UERJ; em Direito Processual Civil Aplicado pelo IBDP/EBRADI; em Neurociência aplicada ao Direito e comportamento humano – ESMAFE/PR, dentre outros campos do saber. Professor da Escola Superior do Ministério Público da União (ESMPU), da Escola Judiciária do Tribunal de Justiça do Estado do Pará (EJTJPA), da Escola da Magistratura do Estado do Rio de Janeiro (EMERJ), da Escola da Magistratura do Estado do Mato Grosso de Sul (TJMS), da FGV/RIO, IBMEC e CEPED/ UERJ. Pesquisador do Laboratório DR.IA – Direito, Racionalidade e Inteligência Artificial da Universidade de Brasília (UnB) e Programa PICP-CAPES pesquisa comparada Alemanha-Brasil para Certificação em IA – Universidade de São Paulo (USP) e Universität des Saarlandes (Alemanha). MBA em Inteligência Artificial Generativa, Direito Digital e Inovação pela Universidade de São Paulo (USP). Membro do Fórum Permanente de Inovações Tecnológicas e o Direito da EMERJ. Há livros que chegam para acalmar controvérsias; este chega para organizá-las, com rigor e genialidade. Em tempos em que decisões automatizadas deixammarcas no crédito, na saúde, no trabalho e até na liberdade, dois direitos parecem se encarar como rivais: a proteção de dados pessoais e o segredo de negócio. Um dos méritos desta obra é demonstrar, com método e prudência, que a oposição é apenas aparente. Não se trata de escolher um vencedor, mas de desenhar o ponto de equilíbrio, variável, contextual, tecnicamente informado, que permita inovação responsável e tutela efetiva do cidadão.
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 18 O percurso começa situando o leitor na sociedade hiperconectada, emque dados, modelos emétricas se tornam infraestrutura do cotidiano. Longe de frases de efeito, os autores mapeiam com precisão os riscos reais de opacidade, vieses e erros em sistemas algorítmicos. Demonstram porque transparência não é sinônimo de exposição irrestrita de código-fonte, nem segredo pode ser escudo absoluto contra o escrutínio público. A cada passo, o texto reconcilia princípios com prática: explica o que é essencial para que o titular compreenda a lógica da decisão que o afetou, sem esvaziar a proteção legítima de ativos intangíveis que estimulam a pesquisa e o investimento. Na segunda parte da obra, o leitor encontra a anatomia do segredo de negócio e sua vizinhança com outros instrumentos de propriedade intelectual. Em lugar de slogans, há tipologias, casos e critérios: quando o segredo viabiliza a competição por diferenciação e quando, ao contrário, cristaliza assimetrias informacionais nocivas. A discussão é iluminada por exemplos paradigmáticos de decisões automatizadas de alto impacto, que revelam quanto a opacidade, se mal compreendida, pode ferir a revisão, a defesa e a própria confiança social em tecnologias que dependem de dados para aprender. O núcleo do livro, contudo, é jurídico e institucional: a leitura atenta do art. 20 da LGPD e o papel da Autoridade Nacional de Proteção de Dados como instância harmonizadora. Ao resgatar a finalidade do direito à revisão, não como pedido de acesso ao algoritmo, mas como garantia de informação clara e adequada sobre critérios e procedimentos decisórios, os autores delineiam o caminho da explicabilidade funcional: explicar o suficiente, de modo inteligível e verificável, para que o titular possa exercer seus direitos e para que o regulador possa auditar onde, quando e como for necessário. É uma proposta sensata, tecnicamente viável e, sobretudo, fiel à letra e ao espírito da LGPD. O leitor encontrará ainda um repertório pragmático: métricas e indícios para reconhecer discriminação algorítmica; salvaguardas proporcionais ao risco; e gatilhos para audi-
19 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD toria regulatória que respeitem a confidencialidade legítima sem abrir mão da prestação de contas. O resultado é um manual de discernimento: nem fetichizar a transparência absoluta, nem ceder à sedução fácil do segredo como resposta para tudo. O que se propõe é governança. A elegância do texto está em cruzar camadas: doutrina e casos, direito e engenharia, desenho institucional e cultura organizacional. Ao final, o livro entrega algo raro: um léxico comum para profissionais que, não raro, falam línguas diferentes. Profissionais do direito, cientistas de dados, gestores públicos, reguladores e empreendedores passam a ver com mais nitidez o mapa do território e a dispor de bússolas confiáveis para navegar em contextos que não admitem soluções de prateleira. Como leitor e testemunha do trabalho cuidadoso que sustenta estas páginas, posso dizer: trata-se de uma contribuição que chega em hora certa. Em um país que ousou construir uma lei geral de proteção de dados robusta e uma autoridade reguladora com missão clara, era preciso um texto que mostrasse que proteger pessoas e preservar a inovação não é apenas possível, mas também é necessário, urgente e, acima de tudo, desejável. Este livro é convite e instrumento. Convida a abandonar falsas dicotomias e a substituir slogans por critérios. Entrega ferramentas para que organizações públicas e privadas implementem, desde já, decisões automatizadas auditáveis, explicáveis e justas. E lança um chamado para que a ANPD, a academia, a sociedade civil e o mercado amadureçam, juntos, arranjos de supervisão que sejam tão inteligentes quanto as tecnologias que buscam orientar. Que estas páginas circulem muito. Que sirvam como referência para quem projeta, contrata e fiscaliza sistemas de IA; para quem, no cotidiano, precisa decidir o que explicar, o que medir e quando abrir a caixa-preta para que a promessa de eficiência não se converta em injustiça. E que, ao final, a leitura nos lembre do óbvio que tantas vezes se esquece: direi-
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 20 tos fundamentais e livre iniciativa não são peças de um jogo de soma zero. São pilares que, bem equilibrados, sustentam o mesmo edifício. Boa leitura. Rio de Janeiro, 10 de outubro de 2025
21 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD INTRODUÇÃO Na atualidade, o desenvolvimento, impulsionamento, uso e implementação de novas tecnologias da comunicação e informação (TICs), assim como de sistemas de Inteligência Artificial (IA), tem se tornado cada vez mais presente na vida em sociedade – sendo visível iniciativas regulatórias tanto em âmbito privado quanto público. O avanço tecnológico avança à largos passos e émuito fomentado, pois o bem-estar civilizatório está cada vez mais conectado (e dependente) ao sucesso de investidas tecnológicas. Veja-se que, nesse sentido, no Brasil, a Estratégia de Governo Digital, instituída pelo Governo Federal, estabeleceu como um de seus objetivos a implementação de sistemas de IA em diversos serviços públicos, pelas mais diversas justificativas (e tem alcançado significantes resultados nesse sentido). Desse modo, sistemas de IA vêm sendo utilizados para as mais diversas atividades e nas mais distintas áreas. Tome- -se por exemplo a utilização da tomada de decisões automatizadas, por meio de amplas bases de dados (incluindo dados pessoais) e ferramentas de machine learning, em campos que estão cada vez mais atrelados às questões da vida humana: educação, saúde, finanças, seguros, combate ao crime, processos judiciais, trabalho, governança e, entre outros, a segurança pública. Esse avanço tecnológico vem tornando cada vez mais opaco a relação “analógico x digital”, de forma que é inevitável o enfrentamento do impacto das novas tecnologias na vida humana, especialmente em campos e atividades que estão intimamente atrelados a direitos e garantias fundamentais esculpidas no texto da Constituição Federal – como o acesso à educação, saúde, liberdade, informação, privacidade, e, entre outros, a proteção de dados.
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 22 Em que pese os benefícios da IA sejam evidentes, não há como desconsiderar os seus riscos, visto que a tecnologia não é inócua, podendo, por exemplo, ensejar riscos àqueles que foram submetidos a determinada decisão algorítmica. Neste sentido, por tratar dados pessoais em seu processo decisório, tem-se atraída as aplicações da Lei Geral de Proteção de Dados (LGPD), que é assertiva ao determinar como direito do titular, em seu art. 20, caput, a garantia de revisão de decisões automatizadas. Contudo, contestar e buscar revisões de decisões algorítmicas é uma tarefa que se apresenta complicada, na medida em que os parâmetros e critérios que ensejaram a decisão são, além de complexos, um mistério que muitas vezes está revestido pelo segredo de negócio e protegido por direitos atrelados a proteção da propriedade intelectual – que inclusive limitam e moderam direitos estabelecidos na LGPD, como o direito de acesso e portabilidade. Deste modo, a possibilidade de flexibilização do segredo de negócio para o escrutínio de decisões automatizadas e aplicação do direito de revisão mostra-se um expressivo problema para o Direito. Diversas são as razões que demonstram a pertinência desse debate: 1) decisões automatizas estão presentes em questões críticas da vida humana e podem influenciar sensivelmente no direito daqueles à ela submetidos – mormente quando o sistema erra; 2) faz-se necessário garantir transparência quanto aos critérios e parâmetros que fundaram determinada decisão algorítmica, especialmente havendo indícios de incongruências ou vieses discriminatórios; 3) é necessário, contudo, equilibrar esse direito com a proteção da propriedade intelectual e também do segredo de negócio, de modo a evitar-se: a) a “demonização” do instituto e, por outro lado; b) a sua utilização como “carta branca” para lograr-se do escrutínio dos sistemas algorítmicos. Ademais a relevância e pertinência do trabalho justificam-se também com base nos avanços técnicos e acadêmicos quanto às discussões sobre sistemas de IA. Nada obstante, or-
23 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD ganizações internacionais, agentes privados e Governos vêm redigindo documentos internacionais voltados a regulação e questionamento sobre a transparência e responsabilidade no uso de tais sistemas, como é o caso da “European Declaration on digital rights and principles for the digital decade”, “US Algorithmic Accountability Act of 2022” e “EU Artificial Intelligence Act of 2021”. A temática é igualmente relevante em nível nacional, considerando os esforços do Governo Federal, por meio do Ministério da Ciência, Tecnologia e Inovações, na regulação e desenvolvimento da matéria, conforme a Estratégia Brasileira de Inteligência Artificial (EBIA) e o projeto de Marco Regulatório Inteligência Artificial no Brasil (Projeto de Lei n.° 2.338/2023). A investigação orbita em torno do seguinte problema: o segredo de negócio, conferido aos algoritmos que auxiliam a realizar a tomada de decisões automatizadas em sistemas de IA, encontra uma flexibilização frente ao direito de revisão de decisão automatizada constante na LGPD? Para além do problema principal, outros questionamentos embasam o presente trabalho, tais como: quais são os riscos e benefícios no emprego de sistemas de IA para tomada de decisões automatizadas (em que setores é possível encontrar essa tecnologia; o que é o segredo de negócio (referido muitas vezes como segredo industrial e comercial na legislação brasileira) e como este instituto jurídico se relaciona como desenvolvimento, aplicação e proteção de sistemas de IA (sob a perspectiva da propriedade intelectual). Busca-se responder ainda se poderia o segredo de negócio tornar-se um problema para o escrutínio das decisões automatizadas, assim como quais as respostas que a LGPD pode oferecer na guarida do titular de dados submetido a decisão automatizada – e como relaciona-se com o segredo de negócio. Objetiva-se, portanto, analisar a relação entre a LGPD (que demanda transparência e responsabilidade) e a preservação do segredo de negócio (que assegura a confidencialidade e o sigilo) no processo de revisão de decisões automatizadas, realizadas por sistemas de IA verificando possíveis limites aos
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 24 direitos dos titulares de dados e a possibilidade de flexibilização do segredo de negócio. De forma específica, objetiva-se: a) relatar os avanços da IA e sua presença na atualidade, assim como a forma com que sistemas deste tipo estão automatizando processos decisórios, que antes eram realizados por humanos; b) examinar os benefícios e os malefícios no emprego de sistemas de IA em processos de tomada de decisão automatizada, bem como trazer alguns casos de repercussão nacional e internacional; c) analisar o que é o direito à proteção de dados e esboçar a relação da LGPD com o Projeto Lei n.º 2.338/2023; d) conceituar o que é o segredo de negócio, a sua importância, como está expresso no cenário nacional e internacional e, especialmente, a sua relação com a proteção de sistemas de IA; e) Analisar como o Projeto Lei n.º 2.338/2023 e instrumentos internacionais como o EU Artificial Intelligence Act lidam com a questão do segredo de negócios e a transparência algorítmica; f ) examinar a relação entre o segredo de negócio e os limites impostos a direitos conferidos aos titulares de dados pela LGPD; g) explorar o conceito de black boxes e como o art. 20 da LGPD poderia flexibilizar o segredo a ponto de não tornar decisões automatizadas com potencial discriminatório “inexplicáveis”. A presente investigação é exploratória em relação aos seus objetivos, na medida em que, além de tensionar a relação entre os institutos jurídicos da proteção de dados pessoais e do segredo de negócio, busca apurar a possibilidade de flexibilização do segredo diante da tomada de decisões automatizadas por sistemas de Inteligência Artificial, por força do artigo 20 da LGPD. Ademais, a investigação é também descritiva, visto que pretende conceitualizar a Inteligência Artificial em seu atual estado da arte, isto é, atendo-se a sistemas voltados a tomada de decisões automatizadas. Neste sentido, igualmente pretende-se descrever como os direitos de propriedade intelectual, o segredo de negócio e proteção de dados pessoais aplicam-se no contexto da Inteligência Artificial.
25 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD Elege-se como abordagem para o desenvolvimento do presente estudo o método dedutivo, considerando que a análise partirá de conceitos mais gerais, sobre Inteligência Artificial, direitos atrelados à proteção da propriedade intelectual e proteção de dados pessoais, para o problema específico que norteia a pesquisa, qual seja: a possibilidade de flexibilização do segredo de negócio ante ao direito de revisão de decisões automatizadas, esculpido no art. 20 da LGPD. Com efeito, a presente pesquisa também se vale do método de investigação comparativo, na medida em que, em observância os marcos de regulação da matéria no Brasil, o cenário internacional é rico em estudos, legislações e documentos que tratam da problemática enfrentada. Assim, para a elaboração do estudo, utiliza-se a técnica de pesquisa bibliográfica e documental, apoiada na pesquisa preponderantemente em livros, artigos científicos e legislação nacional e internacional. O primeiro capítulo tratará especificadamente da relação entre sistemas de IA que realizam a tomada de decisões automatizadas e o direito à proteção de dados pessoais. No intuito de atender o fim a que se propõem, o capítulo é dividido em três subcapítulos que auxiliaram na compreensão da dimensão do avanço tecnológico, o que são sistemas de IA e onde estão sendo aplicados e, por fim, por qual razão a LGPD é aplicável. No primeiro subcapítulo, serão explorados conceitos como “quarta revolução industrial” (empregado por Klaus Schwab e Luciano Floridi) e a neologia “onlife” (cunhada por autores como Luciano Floridi, Mireille Hildebrandt e Wolfgang Hoffmann-Riem), a fim de demonstrar como as sociedades modernas estão cada vezmais dependentes do avanço e sucesso das novas tecnologias. São introduzidos, nesse subcapítulo, temas como Big Data, dados, dados pessoais e dados pessoais sensíveis, Internet das Coisas, ambientes, cidades inteligentes, Algoritmos e black boxes. Em sequência buscará se conceituar o que se entende por “Inteligência Artificial”, relatando, resumidamente, a sua
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 26 evolução no curso da história até o surgimento de sistemas de machine learning e deep learning, capazes de tomar (ou orientar) decisões de forma autônoma. Se investigará nesse subcapítulo, qual o escopo de aplicação dessas tecnologias, assim como o seu emprego para resolução de questões críticas (relacionadas ao exercício de direitos e garantias fundamentais). A seguir, serão declinadas algumas provocações quanto a incidência dos efeitos normativos da LGPD em tomadas de decisões automatizadas, realizadas a partir de sistemas de IA. Nesse ponto, serão explanados conceitos chave da LGPD, os quais serão comparados àqueles constantes do Projeto Lei n.° 2.338/23, que se trata da regulação da IA no Brasil. Avançando, o segundo capítulo tratará da relação do segredo de negócio com a criação, desenvolvimento e utilização de sistemas de IA. O capítulo divide-se em três partes: primeiro, apresentando uma introdução sobre o segredo de negócio; segundo, as questões atreladas a proteção da propriedade intelectual no contexto da IA (direitos autorais, patentes e a utilização do segredo de negócio), e; terceiro, a contribuição do segredo de negócio para formação e permanência de black boxes. Será exposto, primeiro, as raízes históricas do segredo de negócio, assim como as modalidades de proteção do segredo (segredo de fábrica, informações confidenciais, segredo de negócio e o know-how). O ponto apresentará as vantagens estratégicas da eleição dessa modalidade de proteção das informações confidenciais, assim como os ônus dessa opção de proteção. Ademais, serão apresentados dispositivos e legislações que balizam o instituto do segredo de negócio. Prosseguindo, serão abordados os motivos pelos quais criadores e desenvolvedores de sistemas de IA elegem o segredo de negócio para proteção de suas criações. O ponto volta- -se a discussão de ferramentas clássicas de proteção da propriedade intelectual no contexto da IA (como o direito autoral, registro de softwares e patentes), além de exemplos de casos examinados pelo Instituto Nacional da Propriedade Industrial (INPI). O subcapítulo suscitado dá conta da relação entre o se-
27 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD gredo de negócio, proteção da propriedade intelectual e o desenvolvimento de sistemas de IA. Finalizada essa análise, se buscará expor os efeitos colaterais dessa forma de proteção dos algoritmos que compõem os sistemas de IA, que se consubstanciamna figura de black boxes. Além de conceitos chave sobre esse fenômeno, serão abordadas características que transformam modelos algorítmicos em verdadeiras caixas-pretas. Ademais, aqui serão apresentados casos enfrentados pelo Poder Judicial brasileiro e, também, casos paradigmáticos internacionais, que demonstram o perigo da ausência de escrutínio de decisões algorítmicas em campos sensíveis da vida humana. O terceiro capítulo se dedicará a enfrentar os contrastes entre o instituto jurídico do segredo de negócio e o direito de revisão de decisão automatizada da LGPD. Para tanto, serão abordados princípios que se fazem presentes na regulação da IA e seus entrelaçamentos com o segredo de negócio. Feito isso, será examinada a compatibilidade do segredo com os direitos e obrigações presentes na LGPD – averiguando uma possível (in)compatibilidade entre as normas. Ao final, será examinada a possibilidade de flexibilização do segredo por meio do direito de revisão de decisão automatizada. No primeiro ponto, serão exploradas iniciativas regulatórias existentes no campo da IA, com foco nos princípios que balizamo desenvolvimento dessa tecnologia. Esses princípios, com destaque à accountability, transparência e “explicabilidade”, serão examinados em comparação com o instituto do segredo de negócio. Esse aspecto também será verificado nas diretrizes existentes do EU Artificial Intelligence Act of 2021 e no Projeto Lei n.º 2.338/2023. Visto isso, se adentrará nos nuances da LGPD, observando como os seus dispositivos legais se amoldam ao segredo de negócio. No ponto, serão expostos artigos e passagens da Lei que revelam a tentativa de equilíbrio de forças entre o segredo e os direitos dos titulares e procedimentos fiscalizatórios realizados pela Autoridade Nacional de Proteção de Dados
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 28 (ANPD). Ao final, se examinará emminúcia o direito de revisão de decisões automatizadas e o seu condão de flexibilizar o segredo de negócio – oportunidade em que também será tratada das nuanças do procedimento de auditoria de sistemas de IA pela ANPD e, inclusive, o requerimento de perícia do segredo em juízo. Por fim, após o exame de todos os capítulos que compõem o trabalho, será apresentada as notas conclusivas, que buscam atender os objetivos e as propostas delimitadas para presente investigação. A conclusão abarca toda a análise enfrentada na pesquisa, apontando à possibilidade de flexão do segredo no exercício do poder fiscalizatório da ANPD, provocada pelo titular para fazer valer seu direito de revisão. Muitos são os cuidados que deverão ser adotados para, ao mesmo tempo, assegurar a proteção do segredo, concomitantemente ao escrutínio do sistema algorítmico.
PARTE I: NOVAS TECNOLOGIAS, INTELIGÊNCIA ARTIFICIAL E O DIREITO À PROTEÇÃO DE DADOS
31 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 1. INTELIGÊNCIA ARTIFICIAL E DIREITO: DESENVOLVIMENTO E UTILIZAÇÃO DA TECNOLOGIA E SEU ENTRELAÇAMENTO COM O DIREITO À PROTEÇÃO DE DADOS Serão abordados no presente capítulo: (i) conceitos e exemplos de novas tecnologias desenvolvidas no curso da quarta revolução industrial, assim como será apresentado, ainda que de forma incipiente, o conceito de vida “onlife”, levando sociedades modernas à dependência do desenvolvimento tecnológico; (ii) breve história e contextualização do desenvolvimento dos sistemas de Inteligência Artificial (IA), seu uso para fomentar decisões automatizadas e seu escopo de aplicação (presentes até mesmo em “questões críticas”), e; (iii) a aplicação da Lei Geral de Proteção de Dados (LGPD) no contexto da IA e emprocessos de decisões automatizados, com referências ao Projeto Lei n.° 2.338/2023, que trata do marco regulatório da Inteligência Artificial no Brasil. 1.1 A QUARTA REVOLUÇÃO INDUSTRIAL E A NEOLOGIA “ONLIFE”: A (IN)DEPENDÊNCIA HUMANA DAS NOVAS TECNOLOGIAS O presente subcapítulo é dedicado ao exame de conceitos atualmente comuns no dia a dia, ligados ao estado da arte do desenvolvimento e implementação das novas tecnologias, relacionadas ao que Schwab (2016, p. 18) denomina de “quarta revolução industrial”, revolução que denota uma abrupta e radical mudança na forma de viver das sociedades modernas. Examinar-se-á, ainda, como estas tecnologias relacionam-se com sistemas de Inteligência Artificial, alguns exemplos de imple-
Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 32 mentação, uso e desenvolvimento, além de breve contextualização quanto as suas raízes históricas. Primeiro, ao tratar de termos como “sociedade da informação” e “sociedade informacional”, Castells (2012, p. 64-65) aponta para o inevitável fato de que, hoje, o controle e gestão da informação é absolutamente imprescindível para governos e organizações (públicas e privadas). O termo informacional, para o autor, indica “o atributo de uma forma específica de organização social em que a geração, o processamento e a transmissão da informação tornam-se as fontes fundamentais de produtividade e poder devido às novas condições tecnológicas surgidas nesse período histórico”. Essa indispensabilidade do papel da informação na atualidade, decorre da gradativa importância da comunicação de conhecimento e, também, do papel cada vez mais ativo da informação como fonte de produtividade e poder. Nessa atual sociedade informatizada, terminologias como Tecnologias da Informação e Comunicação (TIC’s), Internet das Coisas (Internet of Things, sigla IoT), Inteligência Artificial (IA), algoritmos e Big Data, têm se tornado cada vez mais presentes na vida cotidiana, e comportam, nada obstante, um grande impacto na vida humana – ainda que, por vezes, invisível ou imperceptível. Apenas para citar alguns exemplos disso, é possível referir ao cada vez maior achatamento de distâncias físicas e fronteiriças (migradas para o ambiente digital); as alterações nas formas de interação social e de comunicação humana (em rede), e, entre outros exemplos; a promoção de novas formas de expressão da pessoa no mundo virtual (formação de perfis e identidades virtuais) (Lévy, 2011, p. 33). Segundo Hoffmann-Riem (2021, p. 1-3), desde o final do último milênio, as sociedades modernas estão diante de uma transformação digital em curso, que provoca(rá) severas modificações sociais. A digitalização de campos como economia, comunicação, cultura e, entre outros, política foi fortemente impulsionada pela pandemia de COVID-19, eclodida no ano de 2020, que demandou afastamentos sociais e medidas
33 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD restritivas, oportunizando novas iniciativas no meio digital. No entanto, conforme atenta Beck (2018, p. 185-190), paradoxalmente aos avanços digitais, o grau de conhecimento acerca dos riscos existentes e atrelados ao mundo digital são consideravelmente frágeis (ou invisíveis), em contraposição a outros riscos contemporâneos (como crises financeiras, mudanças climáticas e terrorismo). Mas, como se explorará em especial no Capítulo 3, justamente o risco às liberdades digitais – que são imateriais e, por assim, dizer indolores – proporciona, como efeito colateral, movimentos emancipatórios de humanismo digital, voltados a preservação de direitos humanos neste novo ambiente. 1.1.1 Novas tecnologias e a quarta revolução industrial Segundo Schwab (2016, p. 16-19), a primeira revolução industrial ocorreu entre 1760 e 1840, sendo provocada pela construção de ferrovias e máquinas a vapor, bem como pela produção mecânica. As lições extraídas nesse período, segundo o autor, são ainda válidas, visto que “um dos grandes determinantes do progresso consiste na extensão que a inovação tecnológica é adotada pela sociedade”. Longo e Scorza (2020, p. 70) atentam que a primeira revolução industrial “mudou a nossa vida e a nossa economia que conduz à transição de uma economia agrícola e artesanal para uma economia dominada pela indústria e pela fabricação de máquinas” (traduziu-se).1 Com efeito, entre 1850 e 1945, a segunda revolução industrial é marcada pela transição de métodos de produção a vapor para uma série de desenvolvimentos atrelados a indústria química, metalúrgica, petrolífera e especialmente elétrica. Segundo Cheliga e Teixeira (2019, p. 49-51), essa revolução pode ser visualizada como um aperfeiçoamento das técnicas 1 No original: “La prima rivoluzione industriale ha cambiato la nostra vita e la nostra economia portando al passaggio da un’economia agricola e artigianale a una dominata dall’industria e dalla fabbricazione di macchinari”. In: LONGO, Alessandro; SCORZA. Guido. Intelligenza artificiale: l’impatto sulle nostre vite, diritti e libertà. Milano: Mondadori Università, 2020. p. 70.
RkJQdWJsaXNoZXIy MjEzNzYz