Inteligência artificial, redes sociais e liberdade de consumo: desafios éticos e a urgência de regulação das plataformas digitais de redes sociais 304 brokers ampliam a manipulação informacional para além do controle individual. Esse ecossistema concentrado em poucas corporações evidencia riscos de natureza geopolítica, uma vez que países em desenvolvimento permanecem dependentes de infraestruturas, dados e algoritmos controlados por atores estrangeiros, colocando em questão a soberania digital. Nesse sentido, os algoritmos não devem ser compreendidos apenas como ferramentas técnicas de processamento de dados, mas como funções diretamente derivadas do modelo de negócio das plataformas digitais, e até como potenciais aparatos de controle. A configuração de parâmetros, métricas de otimização e funções de perda é orientada pela lógica da monetização via publicidade segmentada, de modo que o objetivo central do sistema não é a neutralidade informacional, mas a maximização da atenção e do engajamento (Zuboff, 2019; Han, 2021), pois está diretamente relacionado com a maximização de lucros. O desenho algorítmico, portanto, é uma função de custo embutida no modelo econômico, pois embutem-se valores, prioridades e incentivos: a loss function, ou a função que otimiza como o algoritmo aprende, guia o aprendizado não incorporando critérios de bem-estar social, mas é calibrada para aumentar métricas internas como click-through rate de anuncios e tempo de permanência em tela. Assim, os algoritmos constituem expressões técnicas dos incentivos mercadológicos, e não entidades autônomas ou neutras (Mitchell et al., 2019; Floridi, 2013). Em último nível, a lógica de personalização e recomendação emerge da necessidade de gerar valor para anunciantes e investidores, consolidando um mecanismo de governança informacional privado, orientado por incentivos comerciais (Acquisti; Taylor; Wagman, 2016). Neste ponto, é preciso refletir que o limite da legitimidade do interesse do acionista manifesta-se no momento em que a busca por retorno financeiro orienta os algoritmos a operar não mais como ferramentas de eficiência, mas como mecanismos de exploração comportamental. Enquanto a personalização pode ser vista como um recurso legítimo de conveniência e segmentação de mercado, ela ultrapassa o aceitável quando passa a explorar vulnerabilidades cognitivas para maximizar engajamento, induzindo escolhas em detrimento da autonomia individual (Zuboff, 2019; Floridi, 2013). A lógica fiduciária que vincula gestores e investidores converte-se em racionalidade extrativa, na qual a maximi-
RkJQdWJsaXNoZXIy MjEzNzYz