Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 136 Relacionando, no contexto do caso, a decisão automatizada em contraste ao direito fundamental de devido processo legal, é possível observar-se que: (a) a opacidade dos sistemas algorítmicos cria uma assimetria de informações que (b) compromete a possibilidade de defesa efetiva dos indivíduos afetados, especialmente no curso de um processo judicial (questão que, por natureza, é crítica, eis que versa questões essenciais à tutela da vida, como no caso “State v. Loomis”: a liberdade). A proteção excessiva pelo segredo de negócio, se não acompanhada de mecanismos de transparênciamínima, pode transformar o processo em um espaço de confronto desigual entre as partes, no qual a parte contrária (frente à questão coberta pelo segredo de negócio) não dispõe de instrumentos para contestar ou sequer compreender os critérios que orientaram a decisão automatizada, que influiu decisivamente em sua condenação, por exemplo. Neste sentido: Como a metodologia por trás do COMPAS é um segredo de negócio, apenas as estimativas do risco de reincidência são comunicadas ao tribunal. […]. Loomis apresentou um pedido de reparação pós-condenação no tribunal de primeira instância, argumentando que a confiança do tribunal no COMPAS violou o seu direito ao devido processo. Porque os relatórios do COMPAS fornecem dados relevantes apenas para grupos específicos e porque a metodologia utilizada para fazer os relatórios é um segredo comercial, Loomis afirmou que o uso da avaliação COMPAS pelo tribunal violou tanto o seu direito a uma sentença individualizada quanto o seu direito de ser sentenciado com base em informações precisas (traduziu-se) (Harvard Law Review, 2017, p. 1.530-1.537).42 42 No original: “As the methodology behind COMPAS is a trade secret, only the estimates of recidivism risk are reported to the court. […] Loomis filed a motion for post-conviction relief in the trial court, arguing that the court’s reliance on COMPAS violated his due process rights.15 Because COMPAS reports provide data relevant only to particular groups and because the methodology used to make the reports is a trade secret, Loomis asserted that the court’s use of the COMPAS assessment infringed on both his right to an individualized sentence and his right to be sentenced on accurate information.” In: HARVARD LAWREVIEW. Criminal Law. Sentencing Guidelines. Wisconsin Supreme Court Requires Warning Before Use of
RkJQdWJsaXNoZXIy MjEzNzYz