Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 72 científica dos instrumentos de IA e não consideram a possibilidade de os seus resultados serem incorretos, incompletos, irrelevantes ou discriminatórios; destaca que cumpre evitar uma confiança excessiva nos resultados fornecidos pelos sistemas de IA e salienta a necessidade de as autoridades reforçarem a confiança e os conhecimentos necessários para desafiar ou anular uma recomendação algorítmica; considera importante ter expectativas realistas sobre tais soluções tecnológicas e não prometer soluções de aplicação da lei perfeitas e a detecção de todas as infrações cometidas (União Europeia, 2021). O alerta constante no item 15 lembra o fenômeno suscitado pelo filósofo alemão Hans Jonas (2006, p. 79), denominado de “essência sacrossanta do sujeito da evolução”, uma vez que se pode acreditar, em uma situação de miserabilidade, que qualquer mudança consista em melhora utópica capaz de autorizar o sujeito a uma “aposta no agir”, isto é, “arriscar tranquilamente o que existe por algo que, em caso de sucesso poderia ser melhor, e em caso de falha não significaria grande perda” (Jonas, 2006, p. 85). O’Neil (2020, p. 18), nesse sentido, adverte que respostas dadas por algoritmos tendem a ter aplicabilidade imediata e serem tomadas como verdades irredutíveis ao questionamento, debate e ao recurso por parte daquele que foi prejudicado pela decisão automatizada: “Elas [as ADMs] não ouvem. Tampouco vergam. São surdas não somente a charme, ameaça e adulação, mas também à lógica – mesmo quando há boas razões para questionar os dados que alimentam seus resultados”. Eis então uma problemática paradoxal que pode ser transportada ao caso do Poder Judiciário: “o que poderia resultar em juízes mais bem informados pode também influenciá-los a uma observação e uma ponderação menos ativas, deixando-os tentados a acatar à tecnologia como uma espécie de muleta” (Siegel, 2017, p. 69). Inúmeras questões surgem, entre elas, como manter o acesso ao Poder Judiciário e a garantia constitucional de devido processo legal na era da IA.
RkJQdWJsaXNoZXIy MjEzNzYz