305 Mateus Panizzon e Patrícia Montemezzo zação de métricas de curto prazo, como click-through rate e tempo de permanência em tela, ocorre à custa da liberdade cognitiva, da saúde mental e da própria cidadania digital (Han, 2021; Acquisti; Taylor; Wagman, 2016). Portanto, neste contexto, é necessária uma reflexão a nível ético. Diante desse cenário, a reflexão ética não pode se restringir à apenas exigência de transparência ou mitigação de riscos, mas deve apontar para a construção de uma nova racionalidade algorítmica. Essa racionalidade deve deslocar o foco da maximização do engajamento para a promoção do bem-estar digital, da pluralidade informacional e da dignidade cognitiva dos usuários (Floridi, 2013; Zuboff, 2019). Em termos práticos, significa que as funções de perda que orientam os modelos de machine learning não podem ser calibradas unicamente por métricas financeiras de curto prazo, mas precisam incorporar parâmetros de justiça, diversidade e responsabilidade coletiva (Mittelstadt et al., 2016; Barocas; Hardt; Narayanan, 2019). Contudo, essa mudança não pode ser conduzida por um único ator: ela exige uma governança multinível. O Estado deve estabelecer padrões normativos claros e mecanismos de fiscalização efetivos, como algorithmic impact assessments; as corporações precisam internalizar métricas de bem-estar digital em suas funções de otimização, indo além do engajamento compulsivo; a sociedade civil e a academia devem atuar como instâncias críticas de monitoramento e produção de conhecimento; e os usuários, por sua vez, precisam ser fortalecidos em sua literacia algorítmica, de modo a exercer controle consciente sobre sua experiência digital. Apenas por meio dessa articulação multinível é possível substituir a racionalidade extrativa vigente por uma racionalidade emancipatória, orientada à dignidade cognitiva, à pluralidade informacional e à cidadania democrática (Floridi, 2013; Zuboff, 2019). Assim, compreender a inteligência artificial e as plataformas digitais como expressões de uma racionalidade econômica extrativa permite evidenciar os riscos que atravessam não apenas o consumo, mas também a cidadania e a democracia contemporânea (Zuboff, 2019; Han, 2021). A construção de uma racionalidade algorítmica ética e multinível constitui, portanto, não apenas uma exigência normativa, mas uma condição para que a tecnologia seja reposicionada a serviço da emancipação humana. Investigações futuras de-
RkJQdWJsaXNoZXIy MjEzNzYz