Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

275 Alana Gabriela Engelmann e Wilson Engelmann A aplicação das novas tecnologias, especialmente a Inteligência Artificial, no âmbito do processo judicial, tornou-se viável devido ao contexto mencionado anteriormente. Esse contexto se refere à expansão da quarta revolução industrial, que se caracteriza pela ampliação da conectividade digital e pelo uso de tecnologias de software. Essa mudança de paradigma social tem impactos diretos na maneira como as tarefas são executadas, abrangendo desde as mais simples até asmais complexas, e possibilita a implementação dessas tecnologias no âmbito do sistema judiciário (Schwab, 2016, p. 113). A quarta revolução industrial, que abrange o uso de tecnologia para automação e processamento de dados por meio da Inteligência Artificial, tem o potencial de acentuar a assimetria de vulnerabilidade nas relações de consumo. Esse ambiente virtual de resolução de conflitos estabelecido pelas empresas, que inicialmente se limitava a transferir para o mundo online as técnicas de mediação e conciliação já conhecidas, agora faz uso desse banco de dados para implementar tecnologias de automação e estruturação. Assim, as empresas avaliam o comportamento dos consumidores na plataforma e antecipam seus interesses comerciais para moldar a forma como as propostas são apresentadas (Fachin; Silva, 2022). O processo tecnológico, que consiste na utilização de novas tecnologias, como sistemas de inteligência artificial, para realizar suas atividades programadas, trouxe consigo uma série de benefícios e transformações para a sociedade moderna, incluindo o sistema judiciário. E podem ser constatadas várias transformações no sistema judiciário como um todo, sendo as principais mudanças as que dizem respeito a implementação de sistemas de processos eletrônicos, a automatização procedimental, a utilização de sistemas de inteligência artificial no processo de tomada de decisões, a criação de advogados robôs, dentre outros, mostrando que a rápida evolução tecnológica trouxe consigo uma série de transformações na sociedade contemporânea, incluindo o sistema jurídico. Essa digitalização de documentos, a transmissão eletrônica de informações e o uso crescente de inteligência artificial nas decisões judiciais são apenas algumas das mudanças resultantes desse processo tecnológico. No entanto, é imprescindível garantir que essas inovações não comprometam os direitos fundamentais estabelecidos na Constituição. É necessário um equilíbrio entre o avanço

RkJQdWJsaXNoZXIy MjEzNzYz