Inteligência artificial, redes sociais e liberdade de consumo: desafios éticos e a urgência de regulação das plataformas digitais de redes sociais 302 crítico da cidadania, uma vez que se cria, por meio do feed, ummundo autocentrado no individuo, e não na convivência da diversidade. O problema que se estabelece, portanto, é de ordem cognitiva e social. Também se deve considerar os cenários de adversarial machine learning, em que modelos podem ser manipulados para amplificar desinformação e discursos de ódio (Ienca, 2021; Goodfellow; Shlens; Szegedy, 2015), o que pode ser gerado para movimentos de polarização populacional, com danos ao estado democrático de direito, em usuários já sensibilizados cognitivamente. Neste contexto em que redes sociais com IA já estão entrelaçadas como uma tecnologia do dia a dia, dado o tempo de exposição da população nestas plataformas, é preciso observar que, do ponto de vista regulatório, a resposta ainda é fragmentada. O AI Act da União Europeia propõe uma classificação de riscos e obrigações diferenciadas para sistemas de AI alto impacto (Goodman; Flaxman, 2017), mas enfrenta o desafio de acompanhar a velocidade da inovação e atuação global das redes, em termos de novas abordagens dos algoritmos e de suas formas de distribuição nas redes sociais, como foi o efeito dos conteúdos tipo shorts. Agora, as capacidades de IA Generativa podem gerar conteúdo sintético e automatizado em maior escalas, propagando ainda mais efeitos danosos à usuários. O Chile, por sua vez, ao incorporar os neurodireitos em sua Constituição (Ienca, 2021), inaugura uma proteção voltada à esfera mental e cognitiva, ampliando o alcance da regulação para além da privacidade de dados. No Brasil, o Projeto de Lei n.º 2.338/2023 representa um avanço, mas carece de mecanismos robustos de fiscalização e de auditoria técnica. Nesse sentido, torna-se necessário adotar práticas como algorithmic impact assessments, model cards (Mitchell et al., 2019) e datasheets for datasets (Gebru et al., 2021), que permitam maior accountability na cadeia de desenvolvimento e implementação de algoritmos. Os algorithmic impact assessments (AIAs) consistem em avaliações sistemáticas de risco aplicadas a sistemas algorítmicos, inspiradas nos modelos de impacto já utilizados em áreas como meio ambiente e proteção de dados (Goodman; Flaxman, 2017). Seu objetivo é identificar antecipadamente potenciais efeitos éticos, sociais e jurídicos do uso de algoritmos, incluindo riscos de discriminação, violações de privacidade ou impactos negativos à autonomia indi-
RkJQdWJsaXNoZXIy MjEzNzYz