71 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD aplicações de IA para autoridades policiais e para o Poder Judiciário; entretanto, pontua itens de extrema pertinência sobre a sua aplicação, como exemplifica o item 8, sobre as bases de dados utilizada pelo sistema: 8. Salienta o potencial de parcialidade e discriminação resultante da utilização de aplicações de IA, tais como a aprendizagem automática, incluindo dos algoritmos emque tais aplicações se baseiam; observa que os preconceitos podem ser inerentes a conjuntos de dados de base, especialmente quando são utilizados dados históricos, inseridos pelos criadores dos algoritmos ou gerados quando os sistemas são aplicados em situações reais; destaca que os resultados das aplicações de IA são necessariamente influenciados pela qualidade dos dados utilizados e que esses preconceitos inerentes tendem a aumentar gradualmente, a perpetuar e a ampliar a discriminação existente, em particular para pessoas pertencentes a certos grupos étnicos ou certas comunidades racializadas (União Europeia, 2021). A aplicação de sistemas de IA para decisões automatizadas em questões críticas, como no caso da delimitação do tempo de aprisionamento de um ser humano, abre margem para uma desumanização daquele que já cometeu um crime, eis que, se condenado com base em incorreta probabilidade de reincidência, nunca será possível auferir a certeza da predição (e mais: poderá inclusive contaminar o processo, prejudicando o acesso a um devido processo legal). Observe-se, por pertinente, o que determina o item 15 da Resolução supracitada, sobre confiança excessiva e as consequências potencialmente graves da aplicação do sistema: 15. Assinala, contudo, que se os humanos se basearem exclusivamente nos dados, perfis e recomendações gerados pelas máquinas, não serão capazes de levar a cabo uma avaliação independente; salienta as consequências potencialmente graves, mormente no domínio da aplicação da lei e da justiça, quando as pessoas confiam excessivamente na natureza aparentemente objetiva e
RkJQdWJsaXNoZXIy MjEzNzYz