139 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD nais destinadas à “automação e ao oferecimento de subsídios destinados ao cálculo de penas, prescrição, verificação de reincidência, mapeamentos, classificações e triagem dos autos para fins de gerenciamento de acervo” (§1º) (CNJ, 2020). Em que pese as exceções dispostas no § 1º do referido dispositivo, o § 2º é claro ao dispor que “Os modelos de Inteligência Artificial destinados à verificação de reincidência penal não devem indicar conclusão mais prejudicial ao réu do que aquela a que o magistrado chegaria sem sua utilização” – portanto, o uso da IA não poderia ser em maleficio do réu (CNJ, 2020). Ademais, a Resolução, em seu Capítulo III, trata da não discriminação em sistemas de IA no judiciário, na forma do seu art. 7°: Art. 7º As decisões judiciais apoiadas em ferramentas de Inteligência Artificial devempreservar a igualdade, a não discriminação, a pluralidade e a solidariedade, auxiliando no julgamento justo, com criação de condições que visem eliminar ou minimizar a opressão, a marginalização do ser humano e os erros de julgamento decorrentes de preconceitos. § 1º Antes de ser colocado emprodução, o modelo de Inteligência Artificial deverá ser homologado de forma a identificar se preconceitos ou generalizações influenciaram seu desenvolvimento, acarretando tendências discriminatórias no seu funcionamento. § 2º Verificado viés discriminatório de qualquer natureza ou incompatibilidade do modelo de Inteligência Artificial com os princípios previstos nesta Resolução, deverão ser adotadas medidas corretivas. § 3º A impossibilidade de eliminação do viés discriminatório do modelo de Inteligência Artificial implicará na descontinuidade de sua utilização, com o consequente registro de seu projeto e as razões que levaram a tal decisão. (CNJ, 2020) O ponto, segundo atenta Rielli (2021), é que algoritmos tomam e orientam decisões que afetam indivíduos que não
RkJQdWJsaXNoZXIy MjEzNzYz