71 Haide Maria Hupffer e Renata Fröhlich tavelmente frequentes, sendo vítimas de identificações incorretas pelo reconhecimento fotográfico feito por humanos como também por sistemas de IA. O cerne do problema reside no fato de que sistemas de IA de reconhecimento facial carregam consigo as visões preconcebidas de seus criadores e o viés presente nos bancos de dados que as alimentam. Portanto, a probabilidade de erros como esses se multiplicarem é alta no contexto do reconhecimento facial. Isso decorre, em grande parte, das questões estruturais que permeiam a forma como a sociedade e o Estado definem quem deve ser monitorado, perseguido ou detido, revelando as percepções arraigadas sobre quem representa perigo (Costa, Kremer, 2022, p. 149). A doutrina estabelece três principais fontes de preconceito que podem levar à discriminação por algoritmos: a entrada de dados enviesados ou mal representados; o treinamento enviesado dos algoritmos na categorização de dados ou na avaliação do resultado desejado; e a programação enviesada do algoritmo, resultando em discriminação no design ou no aprendizado, que se aprimora com interações sucessivas com usuários humanos. Apesar da precisão dos algoritmos inteligentes, eles têm custos éticos interpretativos, e com a finalidade de alcançar autonomia, os métodos desenvolvidos para predizer comportamentos ou indicar criminosos e potenciais criminosos, aprendem, ponderam e estudam com variáveis e grandes conjuntos de dados que são obscuros, sendo referidos como “caixas-pretas”, onde o processo decisório é incompreensível para os humanos. Além disso, a mineração de dados e as decisões algorítmicas enfrentam críticas devido à sua falta de transparência. A opacidade nessas etapas, especialmente em relação a dados tendenciosos, pode ocultar resultados discriminatórios ou indesejáveis até que se tornem evidentes (Fornasier, 2021, p. 70-72). A Organização para a Cooperação e Desenvolvimento Econômico (OCDE, 2024) publicizou dez princípios para IA no ano de 2021, que foram revisados no ano de 2024, contando com 47 países que aderiramaos princípios. Os sistemas de IA devem ser projetados para respeitar os direitos humanos, o estado de direito, os valores democráticos e a diversidade. Os dez princípios são assim sistematizados: i] valores centrados no ser humano e equidade; ii] desenvolvimento sustentável, crescimento inclusivo e bem-estar; iii] Transparência e explicabilidade; iv] robustez, segurança e proteção; v]
RkJQdWJsaXNoZXIy MjEzNzYz