Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 140 possuem conhecimento ou ferramental para entender as decisões e a forma com que ela foi tomada (como um input torna- -se um output). Portanto, “o recipiente da decisão, que pode ser inclusive o titular dos dados utilizados como input, raramente terá uma noção concreta de como aquele output foi gerado a partir da entrada inserida no sistema” (Rielli, 2021, p. 438). Neste sentido, conforme aponta Pasquale (2015): Examinar os outros, evitando o escrutínio de si mesmo, é uma das formas mais importantes de poder. As empresas buscam detalhes íntimos da vida de clientes e funcionários em potencial, mas fornecem aos reguladores o mínimo de informações possível sobre suas próprias estatísticas e procedimentos. [...] No centro da economia da informação estão as empresas de internet e finanças que acumulam grandes quantidades de dados digitais e, com eles, detalhes íntimos da vida de seus clientes – nossas vidas. Eles o usam para tomar decisões importantes sobre nós e para influenciar as decisões que tomamos por nós mesmos. Mas o que sabemos sobre eles? Uma pontuação de crédito ruim pode custar centenas de milhares de dólares ao mutuário, mas ele nunca entenderá exatamente como foi calculado. Uma empresa de análise preditiva pode classificar alguém como um funcionário de “alto custo” ou “não confiável”, mas nunca contar a ela sobre a decisão (traduziu-se) (Pasquale, 2015, p. 3-5).43 43 No original: “To scrutinize others while avoiding scrutiny oneself is one of the most important forms of power. Firms seek out intimate details of potential customers’ and employees’ lives, but give regulators as little information as they possibly can about their own statistics and procedures. [...] At the core of the information economy are Internet and finance companies that accumulate vast amounts of digital data, and with it intimate details of their customers’— our—lives. They use it to make important decisions about us and to influence the decisions we make for ourselves. But what do we know about them? A bad credit score may cost a borrower hundreds of thousands of dollars, but he will never understand exactly how it was calculated. A predictive analytics fi rmmay score someone as a “high cost” or “unreliable” worker, yet never tell her about the decision.” In: PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Cambridge: Harvard University Press, 2015. p. 3; 5.
RkJQdWJsaXNoZXIy MjEzNzYz