Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 54 humanos” como um todo, e portanto, seu modo de operação só pode ser entendido de forma limitada. Eles então agem como uma caixa preta. Nos países de língua anglo-saxônica, por exemplo, esses são chamados de opaque, inscrutable artifacts (Hoffmann-Riem, 2021, p. 31-34). Essas “caixas pretas”, ou “black boxes” (“opaque, inscrutable artifacts”), são uma das problemáticas centrais em que orbita a presente investigação, especialmente porque, na atualidade, o poder tem sido exercido e manifestado por meio de algoritmos, que tomam decisões de forma automatizada ou guiam tomadores de decisões. Alémde novos desafios ao direito, novas formas de desigualdade e privilégios nascem, como é o caso do privilégio da decisão humana em ummundo em que as massas estão cada vez mais propensas a serem avaliadas por algoritmos e sistemas de IA. O’Neil (2020, p. 15-19), ao analisar o caso da ferramenta IMPACT, que orientou a demissão de mais de 206 professores em Washington, com base em um escore de pontos, constatou que: (i) na atualidade, os privilegiados terão decisões tomadas por pessoas; as massas, ao revés, serão cada vez mais propensas a julgamentos decisões tomadas por máquinas e sistemas algorítmicos; (ii) modelos como o mencionado são legítimas “black boxes”, na medida em que seu conteúdo é ferozmente protegido pelo segredo industrial e comercial; (iii) o resultado destas decisões, em que pese possam afetar significantemente a pessoa avaliada, são tomadas como verdades absolutas, em que pese os critérios e informações usadas sejam desconhecidas. Exatamente por essa razão o debate sobre do segredo industrial e comercial frente as inovações tecnológicas é urgente, de modo que, segundo leciona Matthews (2020, p. 86), “a proteção à propriedade intelectual deve ser usada como recompensa por grandes ideias, não como forma de evitar resultados embaraçosos que legitimamente apontariam para bugs, preconceitos e outros problemas em um sistema” (traduziu-
RkJQdWJsaXNoZXIy MjEzNzYz