115 Mateus de Oliveira Fornasier, Fernanda Viero da Silva e Marco Antonio Compassi Brun lidade de auditar certos processos decisórios levanta preocupações sobre a perda do controle significativo sobre as máquinas e suas implicações jurídicas. Em muitos casos, a falta de transparência algorítmica compromete princípios fundamentais do devido processo legal, restringindo o direito à ampla defesa e ao contraditório, uma vez que os afetados por essas decisões não conseguem questionar os fundamentos ou os vieses que as sustentam (Pasquale, 2015). Com isso, cada vez mais atenção acadêmica tem sido direcionada aos desafios de governar a IA e as tecnologias emergentes, e a maior parte do foco ainda permanece nas questões de como preservar a “centralidade do humano” nas tecnologias cada vez mais avançadas e impulsionadas por máquinas (Mellamphy, 2021, p. 11). Logo, a defesa da centralidade humana na IA se justifica sim sob a perspectiva dos direitos humanos, garantindo que a tecnologia seja desenvolvida e operada em favor do ser humano, com transparência e controle significativo para mitigar riscos e danos. No entanto, em uma sociedade complexa e altamente digitalizada, essa centralidade pode não ser apenas a solução, mas também parte do problema. As narrativas identitárias, os discursos e as formas de poder na era digital como vimos demonstram que os algoritmos não são apenas ferramentas neutras, mas novos mecanismos de dominação e vigilância, reforçando desigualdades e ampliando formas de violência simbólica e material. Assim, a questão central não é apenas garantir que o ser humano mantenha o controle sobre as máquinas, mas questionar se esse controle, muitas vezes exercido a partir de estruturas de poder já consolidadas, não perpetua os mesmos problemas históricos. A opacidade algorítmica, frequentemente criticada por dificultar a compreensão e a contestação das decisões automatizadas, pode incomodar não apenas porque sugere uma perda de controle sobre a tecnologia, mas porque revela de forma explícita as ideologias e pressupostos que sempre estiveram presentes na organização social. Os algoritmos não criamnovas formas de discriminação ou desigualdade do nada; eles tornam visíveis e operacionais estruturas de poder que já existiam, mas que muitas vezes eram ignoradas ou naturalizadas. Nesse sentido, a insistência na centralidade humana deve ser acompanhada de uma reflexão crítica: até que ponto manter o homem no centro é garantir um uso ético da IA e até que ponto é
RkJQdWJsaXNoZXIy MjEzNzYz