187 Gabriel Cemin Petry, João Sérgio dos Santos Soares Pereira e Karin Regina Rick Rosa reduziria a capacidade de intervenção voluntária, tornando-as pessoas “digital unconscious”, portanto, inconscientemente manipuladas. Segundo Floridi (2014, p. 48), o progresso humano passa a estar cada vez mais integrado ao sucesso do ciclo de vida da informação. Até mesmo funcionalidades atinentes ao exercício do poder público passam a se tornar dependentes do sucesso das novas tecnologias (v.g. Smart Cities). Explica o autor que as sociedades humanas passampor três eras: pré-história (antes das TICs), história (bem-estar relacionado às TICs) e hiper-história (bem-estar social e econômico dependente das TICs), na qual se experiencia a vida “onlife”, em uma sociedade tecnológica cada vez mais sincronizada, deslocalizada e correlacionada. Algoritmos são instruções matemáticas destinadas a resolver problemas, integrados em sistemas de IA, os quais se encontram cada vez mais presentes em questões da vida cotidiana. Decisões sobre seleção e contratação de empregados, cálculos atuariais de seguro e planos de saúde, concessão de empréstimos, processos na justiça criminal ou mesmo sugestões de tratamentos médicos, vêm sendo cada vez mais norteadas por meio de sistemas IA, razão pela qual autores sinalizampara os riscos de os algoritmos reproduzirem vieses e preconceitos humanos (O’Neil, 2020, p. 9; Matthews, 2020, p. 82-84), especialmente porque alguns sistemas algorítmicos são tão complexos que atuam como “black boxes”, ou seja, as operações internas do algoritmo são pouco compreendidas (Hoffmann-Riem, 2021, p. 33-34; Pasquale, 2015, p. 3-5). Se de um lado são inegáveis os benefícios do desenvolvimento de sistemas de IA, por outro, existem riscos que precisam ser considerados, visto que além de reproduzirem viesses humanos, podem amplificá-los (Pereira, 2021). Do ponto de vista operacional, diversos tipos de algoritmos podem integrar o desenvolvimento de sistemas de IA, que, além de necessitar de um robusto banco de dados, precisam de um “algoritmo de treinamento”. Após preparar o sistema para realizar as operações que fundamentam o objetivo do projeto, obtém-se um modelo treinado (outros algoritmos), pronto para ser utilizado. As respostas fornecidas pelo sistema refletem os padrões presentes no dataset, fornecido para o treinamento do modelo e, devido ao grande volume de dados, pode ser difícil para uma pessoa identificar padrões sutis. Nesse sentido, Cortiz destaca a necessidade de criar “métri-
RkJQdWJsaXNoZXIy MjEzNzYz