Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 68 timento da transparência algorítmica incluem: a impossibilidade cognitiva de humanos interpretarem imensos modelos algorítmicos e conjuntos de dados; a falta de ferramentas apropriadas para visualizar e rastrear grandes volumes de códigos e de dados; códigos e dados mal estruturados que são praticamente impossíveis de ler; e a existência de atualizações contínuas e de influência humana sobre ummodelo. Por fim, as evidências mal orientadas decorrem da inexistência de qualidade nos dados que compõem os data sets e formam os inputs, situação que descortina a importância da seleção de dados para o funcionamento de sistemas algorítmicos. Segundo Pereira, Rosa e Petry (2024, p. 194) “a acurácia dos dados coletados que formam os data sets utilizados como entrada para os sistemas de IA é um fator crucial para garantir a qualidade e a confiabilidade das saídas geradas por esses sistemas. O sistema de IA aprende com os dados que recebe, logo, se esses dados forem imprecisos, desatualizados, tendenciosos ou incompletos, os modelos tendem a reproduzir e amplificar esses erros.”. Por essa razão é fundamental a utilização de método rigoroso para coleta de dados confiáveis, afinal “o uso de um conjunto de dados que não é representativo leva a uma representação distorcida de um grupo no conjunto de dados em comparação com a composição real da população-alvo, introduz viés e reduz a precisão das decisões eventuais do sistema” (Fjeld et al., 2020, p. 25-26) (traduziu-se).24 Neste sentido, segundo Korkmaz (2024, 124-159), os resultados destas evidências inconclusivas, inescrutáveis ou mal orientadas, podem ser injustos (ou discriminatórios) e, nada obs24 No original: “The use of a dataset that is not representative leads to skewed representation of a group in the dataset compared to the actual composition of the target population, introduces bias, and reduces the accuracy of the system’s eventual decisions.” In: FJELD, Jessica et al. Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI. Cambridge: Berkman Klein Center for Internet & Society at Harvard University, 2020. p. 7. Disponível em: https://dash.harvard.edu/server/api/ core/bitstreams/c8d686a8-49e8-4128-969c-cb4a5 f2ee145/content. Acesso em: 19 set. 2024.
RkJQdWJsaXNoZXIy MjEzNzYz