191 Gabriel Cemin Petry, João Sérgio dos Santos Soares Pereira e Karin Regina Rick Rosa a identificar se preconceitos ou generalizações influenciaram seu desenvolvimento, acarretando tendências discriminatórias no seu funcionamento. § 2º Verificado viés discriminatório de qualquer natureza ou incompatibilidade do modelo de Inteligência Artificial com os princípios previstos nesta Resolução, deverão ser adotadas medidas corretivas. § 3º A impossibilidade de eliminação do viés discriminatório do modelo de Inteligência Artificial implicará na descontinuidade de sua utilização, com o consequente registro de seu projeto e as razões que levaram a tal decisão (CNJ, 2020). Especificamente na seara penal, considerando os riscos discriminatórios no uso da IA, estabelece o art. 23 da Resolução: Art. 23. A utilização de modelos de Inteligência Artificial em matéria penal não deve ser estimulada, sobretudo com relação à sugestão de modelos de decisões preditivas. § 1º Não se aplica o disposto no caput quando se tratar de utilização de soluções computacionais destinadas à automação e ao oferecimento de subsídios destinados ao cálculo de penas, prescrição, verificação de reincidência, mapeamentos, classificações e triagem dos autos para fins de gerenciamento de acervo. § 2º Os modelos de Inteligência Artificial destinados à verificação de reincidência penal não devem indicar conclusão mais prejudicial ao réu do que aquela a que o magistrado chegaria sem sua utilização (CNJ, 2020). Por isso, diante da constatação de que um dataset pode ser constituído com dados incorretos e de baixa qualidade, é preciso estar atento aos possíveis resultados discriminatórios gerados. Torna- -se, portanto, pertinente o debate quanto ao enquadramento da base de dados utilizada para o treinamento de um sistema de IA com o princípio da adequação e qualidade de dados, prescritos no texto da LGPD. Inclusive, segundo a Estratégia Brasileira de Inteligência Artificial (EBIA), uma das questões centrais relacionadas à regulamentação da IA é justamente “a proteção e a salvaguarda de direitos, inclusive aqueles associados à proteção de dados pessoais e à prevenção de discriminação e viés algorítmico” (Ministério da Ciência, tecnologia e inovações, 2021). A Proposta de Plano Brasileiro de In-
RkJQdWJsaXNoZXIy MjEzNzYz