Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD 64 p. 3). Nesse sentido, com base na análise dos dados inseridos no sistema (data set), determinado modelo é capaz de realizar análises preditivas voltadas a estimar a reincidência de réus em processos penais, o valor de uma hipoteca, a recomendação de filmes, publicidade comportamental direcionada, persuadir de eleitores, calcular o risco de evasão de determinados funcionários e, entre outros exemplos, para detecção de fraudes (Siegel, 2017, p. 253-257). A despeito das utilidades e promessas de benefícios decorrentes do desenvolvimento tecnológico, o impacto negativo de modelos “nocivos” pode igualmente ser significativo, especialmente quando essas tecnologias são inseridas no contexto de atividades essenciais para as pessoas, isto é, quando são empregadas para resolução de questões críticas, como acesso à saúde, moradia e educação, por exemplo. O’Neil (2020, p. 308) atenta que modelos deste tipo (i.e. nocivos) ameaçam valores democráticos e tendem a discriminar pessoas de baixa renda, que vivem em bairros periféricos – que são propensos, em determinados casos, a tornarem-se alvos de intenso policiamento preditivo, baixa classificação de crédito e anúncios predatórios para empréstimos de alto risco. O “Big Brother não está olhando para você, mas para nós”: ao fazer menção à obra 1984, de George Orwell, Eubanks (2018, p. 12) chama atenção ao fato de que amaioria das pessoas pode se tornar alvo de um “escrutínio digital” não individualmente, mas, sim, como membros de grupos sociais (por exemplo: pessoas de cor, imigrantes, membros de religiões não populares, minorias sexuais, pobres etc.) – nesse contexto, os dados coletados agem para reforçar sua marginalidade quando são usados para direcioná-los para suspeita e escrutínio extra. Desse modo, “grupos marginalizados enfrentam níveis mais altos de coleta de dados quando acessam benefícios públicos, caminham por bairros altamente policiados, entram no sistema de saúde ou cruzam fronteiras nacionais” (traduziu-se) 22, razão pela qual 22 No original: “Marginalized groups face higher levels of data collection when they access public benefits, walk through highly policed neighborhoods, enter the health
RkJQdWJsaXNoZXIy MjEzNzYz