417 Agnes Borges Kalil, Haide Maria Hupffer e Dailor dos Santos vídeos deepfake online são pornôs não consensuais, e cerca de 90% desses vídeos incluem mulheres”. Outro problema observado que não há qualquer impedimento do usuário de enviar sua foto, também enviar rostos de outras pessoas. Os vídeos deepfake produzidos podem ser “tão violadores quanto a pornografia de vingança, vídeos realmente íntimos filmados ou divulgados sem consentimento”. As repercussões nas vidas privadas das vítimas são enormes e vão acompanhar as vítimas pelo resto da vida (MIT, 2021). Por outro lado, o Instagram (2018) publica em sua página que a filtragem automática censura o mamilo feminino classificando-o como “imagens inadequadas” em razão da sexualização da nudez, sem diferenciar se a imagem se refere a uma criança na piscina, uma campanha do outubro rosa, um grupo étnico que não utiliza vestimenta sobre o mamilo ou uma produção artística. Todas essas situações são sexualizadas pelo algoritmo do grupo Meta – exceto quando referentes ao corpo masculino, o qual não possui restrições práticas quanto a exposição do mamilo – que, em suas Diretrizes da Comunidade, afirma não permitirem “nudez no Instagram, com algumas exceções, como fotos de cicatrizes pós-mastectomia e mulheres amamentando. A nudez em imagens de pinturas e esculturas também é permitida” (Instagram, 2018). Outra crítica às plataformas é a ausência de transparência quanto à infraestrutura e a governança, o que condiciona o produtor cultural a se tornar refém das regras nem sempre claras de criação, distribuição, marketing e monetização, já que não participar do movimento de plataformização não é uma opção válida aos produtores da era digital. Os exemplos examinados mostram que o legislador deveria estar mais atento aos riscos da desinformação e das deepfakes ilitadamente disseminadas nas plataformas digitais e aplicativos. O sistema político não está acompanhando o desenvolvimento das novas tecnologias e os efeitos negativos do mau uso refletem na cultura, na saúde, na democracia, no livre desenvolvimento da personalidade, no direito à intimidade, privacidade e à proteção de dados. Neste sentido, Sorger (2021, p. 53) posiciona que enquanto o legislativo não se posiciona, a “regulação dos espaços de comunicação pública digital foi deixada aos operadores das plataformas de forma autônoma”, o que para o autor foi um grande erro. As plata-
RkJQdWJsaXNoZXIy MjEzNzYz