195 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD saibam disso. Isso tudo, sem falar nos desafios impostos à privacidade e à autonomia do indivíduo que, sem saber da existência de tratamento de dados, não pode fazer valer seus direitos para preservação de sua intimidade, por exemplo. Esse uso da IA na tomada de decisões que são intrínsecas ao exercício de uma vida digna, traz preocupações de matriz ética quanto a transformação dos inputs em outputs, visto que, por vezes, os inputs podem converter-se em evidencias inconclusivas, equivocadas e inescrutáveis, resultando emações injustificadas, vieses algoritmos e, emúltimo caso, na opacidade que direciona o sistema à classificação de “Black Box” – uma verdadeira caixa-preta em que a informação quanto aos “porquês” do resultado ou critérios de determinada decisão algorítmica resta inacessível. Autores como Pasquale, O’Neil, Mathews e Eubanks alertam quanto à dificuldade de escrutínio de decisões algorítmicas, assim como do seu impacto em não apenas reproduzir, mas aprofundar desigualdades sociais. Em uma sociedade onde o poder e a autoridade se expressam, cada vez mais, por meio de decisões ou orientações algorítmicas, as black boxes podem representar um grande problema – elementos como de imprevisibilidade, incontrolabilidade e distributividade, cumulados, podem transformar sistemas algorítmicos em black boxes. Ao longo do trabalho foram apresentados casos como o da ferramenta COMPAS, em que a tomada de decisões pelo modelo algorítmico impactou seriamente a vida das pessoas submetidas às decisões automatizadas, sendo encontrados entraves para uma explicação quanto aos critérios adotados pelo sistema. Entre as justificativas para preservação das black boxes está a busca pela proteção do segredo de negócio – uma alternativa jurídica recorrente para proteção da confidencialidade das informações sobre o funcionamento do modelo algorítmico. Contudo, segundo alguns autores, a busca pela proteção do segredo de negócio e de direitos atrelados à propriedade intelectual não pode encortinar bugs, erros, vieses discriminatórios e outros problemas atinentes ao sistema. A falta de trans-
RkJQdWJsaXNoZXIy MjEzNzYz