67 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD conduzem a problemas de apofenia (i.e., os algoritmos indicam correlações e conduzem à identificação de padrões onde estes não existem verdadeiramente, em fenômeno por vezes também nominado de “correlação espúria”); (ii) evidências inescrutáveis (i.e., opacas ou ininteligíveis); e (iii) evidências mal orientadas (resultantes da baixa qualidade dos dados de entrada). Quanto às preocupações de natureza normativa e ética, os autores indicam os seguintes problemas: (iv) resultados injustos ou discriminatórios e (v) efeitos transformativos, associados à forma como os algoritmos afetam o modo de compreender o mundo, assim como sua organização social e política, com impactos sobre a autonomia humana. Por fim, agravado pelos problemas anteriormente citados, os autores apontam, ainda, para o problema da (vi) dificuldade de rastreabilidade das causas de eventual dano provocado e, consequentemente, de responsabilização dos indivíduos ou organizações envolvidos. Korkmaz (2024, p. 116-117) esclarece que, no caso das evidências inconclusivas, “são identificados pelo sistema padrões que não existem, mas se justificam pela ostensiva quantidade de dados”, razão pela qual os resultados podem ser absurdos ou incorretos, a despeito de estatisticamente aferíveis. Segundo Wimmer e Doneda (2022, p. 379-380), um dos problemas em questão aqui é que esse tipo de evidência pode acarretar ações injustificadas por tomadores de decisão. As evidências inescrutáveis podem ser consideradas opacas, ilegíveis e, portanto, incapazes de assegurar uma checagem de seus resultados, o que pode gerar insegurança quanto aos resultados obtidos – assim como no caso acima. Sobre este tipo de evidência, leciona Korkmaz (2024, p. 119-120): A rigor, evidências inescrutáveis concentram-se emproblemas relacionados à falta de transparência que geralmente caracteriza algoritmos, sobretudo os complexos, a infraestrutura sociotécnica em que eles existem e, por conseguinte, as decisões que eles apoiam. A partir de diagnóstico da literatura, os fatores relacionados ao comprome-
RkJQdWJsaXNoZXIy MjEzNzYz