53 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD mento de sistemas de IA. Cortiz (2020, p. 1-5), neste sentido, esclarece que além de um robusto banco de dados, a IA precisa, primeiro, de um algoritmo de treinamento que, após preparar o sistema para as operações que embasam o objetivo do projeto, de acordo com os dados fornecidos, resultará no modelo treinado (igualmente um algoritmo), pronto para ser empregado. Segundo Cortiz (2020, p. 1-5), as respostas oferecidas por determinado algoritmo ou sistema de IA refletirão, por conseguinte, os padrões existentes no banco de dados utilizado no treinamento do modelo – que, devido ao seu volume, pode tornar dificultoso para uma pessoa identificar padrões sutis. Para o autor, neste processo de desenvolvimento, faz-se necessário criar métricas de avaliação para modelos de IA que levem em consideração aspectos tanto técnicos quanto sociais, eis que, em geral, desenvolvedores estão mais atentos ao grau de desempenho e acurácia do modelo, de modo que “o modelo que apresenta uma taxa de acerto aceitável com base nesses critérios se torna elegível para ser implementado em um sistema em produção, independentemente de demonstrar um viés para um ou outro lado”. Matthews (2020, p. 85) destaca, neste sentido, que problemas como o mencionado, envolvendo resultados negativos oriundos de bancos de dados excessivos ou imprecisos, podem ser recorrentes, caso designers e desenvolvedores se contentem com o desempenho agregado do sistema e não promovam a devida revisão ou explicação de tais resultados. Sobre o ponto, atenta Hoffmann-Riem (2021, p. 31-34): Entretanto, os próprios algoritmos – pelo menos no ponto de partida – são criados por humanos. Neste sentido, são – como outras técnicas/tecnologias – construções sociais criadas em determinados contextos. Isso também se aplica à criação de algoritmos altamente desenvolvidos, que podem então “aprender” e se programar de forma independente. [...] Deve-se notar novamente que alguns algoritmos são tão complexos que dificilmente podem ser “compreendidos pelos
RkJQdWJsaXNoZXIy MjEzNzYz