279 Alana Gabriela Engelmann e Wilson Engelmann que o Poder Judiciário seja imparcial e adote decisões transparentes. Diante disso, para que as decisões proferidas pelos sistemas tecnológicos se aproximem do modelo constitucional de processo, é necessário a criação de um constitucionalismo digital, abrangendo a necessidade de que qualquer decisão seja o mais transparente possível e que os usuários tenham informações mais precisas sobre o processo de tomada de decisão realizado pela máquina, responsabilizando, também, os criadores dos referidos sistemas, tendo em vista que eles também são responsáveis pelo gerenciamento dos dados e dos comportamentos e conteúdos aceitáveis adotados pela máquina6. No mesmo sentido, é o pensamento de Frederick Mostert (2020) que, mediante a adoção da ideia de um “devido processo digital”, afirma que um dos pilares, bem como dos obstáculos enfrentados, é a ausência de transparência, uma vez que “as can be seen, transparency, accountability and contestability are vital pillars of digital due process”7, e que essa ausência de transparência acaba por gerar processos decisionários arbitrários, tendo em vista as black boxes, que impossibilitam que o usuário tenha conhecimento dos parâmetros e da base de dados adotado para o processo de tomada de decisão (Frazão, 2022, p. 593). Para que haja uma adequação do processo tecnológico com o devido processo legal, é necessário ter em mente que o devido processo legal vai muito além de uma transparência e de uma publicidade, demonstrando a necessidade de equilibrar a eficiência e a conveniência trazidas pela tecnologia com as salvaguardas necessárias para garantir a justiça e a equidade processual. É preciso garantir 6 Nicolas Suzor propõe, inclusive, a adoção da ideia de um devido processo digital, ao afirmar que se pode esperar que o devido processo tenha dois componentes principais. O primeiro componente é que, antes que uma decisão regulatória seja tomada, ela necessita ser feita de acordo com critérios e processos válidos. Em segundo lugar, uma vez tomada a decisão, o devido processo exige que os usuários prejudicados tenham algum recurso e revisão independente. Essa ideia, ao se aproximar do devido processo legal, possibilita que os usuários tenhammaior segurança e que questionem as decisões tomadas no tribunal ou por meio de arbitragem. Algumas das plataformas estudadas possuem processos recursais internos para impugnação de decisões, mas estes não são particularizados ou expressos como vinculativos nos documentos contratuais. Na prática, esses processos geralmente são mal compreendidos e não são particularmente confiáveis. 7 Como se vê, a transparência, a accountability e a contestabilidade são pilares vitais do devido processo digital (tradução livre).
RkJQdWJsaXNoZXIy MjEzNzYz