141 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD Segundo Pasquale (2015), uma Black Box pode ser definida como uma metáfora com duplo significado: (1) podendo referir-se, por analogia ao sistema de gravação e monitoramento de dados de trens, aviões e carros, exibindo seus movimentos e funcionamento, e; (2) pode representar o mistério em seu funcionamento, visto que, em que pese possamos verificar os seus inputs e outputs, não somos capaz de entender como um transforma-se no outro, de forma que as conclusões de como determinado sistema ou algoritmo funciona permanecem uma incógnita – muitas vezes resguardada por legislações voltadas a proteção da propriedade intelectual e segredo industrial e comercial (Pasquale, 2015, p. 5-6). Considerando as inúmeras vantagens existentes emmanter umalgoritmo em segredo, ocorre uma transição da escolha do ideal de transparência para o ideal de segredo, preferindo-se, portanto, a proteção através do segredo (protection-via-secrecy) ao invés da legitimação através da transparência (legitimation-via-transparency). Segundo Pasquale (2015, p. 183), disso resulta a “Black Box Society” e os perigos e desafios que dela derivam. Para Frazão e Goettenauer (2021), é possível estabelecer confiança e tranquilidade quanto a processamentos algorítmicos havendo algum controle quanto a qualidade: (a) dos dados (verídicos, exatos, precisos, acurados e adequados para os fins a que se destinam), e; (b) do processamento realizado (sendo a programação empregada inidônea para um resultado confiável). Não havendo transparência para assegurar que os outputs são fidedignos, se estará frente a uma black box. Como o “one way mirror” de Pasquale44, nesse caso “não há como saber se as aplicações algorítmicas são justas ou movidas por interesses econômicos ou escusos dos agentes que delas se utilizam” (Frazão; Goettenauer, 2021, p. 38). 44 Literalmente, segundo Pasquale, não vivemos em um “reino pacífico de jardins murados privados” (peaceable kingdom of private walled gardens); o mundo contemporâneo se assemelha mais a um “espelho unidirecional” (one-way mirror). In: PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Cambridge: Harvard University Press, 2015. p. 18.
RkJQdWJsaXNoZXIy MjEzNzYz