Hipervigilância, hacking governamental, genocídio quântico e big data 32 CONSIDERAÇÕES FINAIS A tecnologia de reconhecimento facial, em específico, estaria, portanto, duplicando ou potencializando o racismo institucionalizado e estrutural existente na sociedade, havendo uma iniquidade codificada propiciando infraestruturas injustas, já que há a reprodução de injustiças assim como outras formas de discriminação, em razão dos diversos casos de “bias”, os quais não são equacionados de forma sistêmica por meio de uma adequada estrutura de governança algorítmica. Contudo, onde ha poder ha resistência, como nos ensinou Michel Foucault, a exemplo das contra-codificaçes com base na solidariedade e que repensam a justiça, isto e, uma abordagem emancipatória da tecnologia. Há a necessidade de uma mudança paradigmática na área e IA vocacionada para a “justiça algorítmica”, e sendo necessária, ha de ser possível, como aprendemos com Kant, devendo ser buscada com o máximo afinco. São verdadeiras formas de resistência, como instrumentos abolicionistas, em face de novas formas de discriminação de raça, gênero e classe existentes por meio de utilização de novas tecnologias, no sentido de praticas de design orientadas para a justiça. É o que aponta o documento “Getting the future right” da Fra Agency da União Europeia destacando a perspectiva de “data justice”, e a elaboração de “human rights impact assessments, sugerindo a necessidade de modelos alternativos de governança com base no constitucionalismo digital25. Portanto, além de iniciativas no sentido de remoção de “bias”, como um campo de pesquisa em andamento, estão surgindo outras formas de “resistência, contra-hegemônicas”, buscando-se uma forma de proteção quanto aos direitos fundamentais afetados diretamente por tal tecnologia. Como resposta ao sistema atual de vigilância em massa a sociedade civil se manifestou em algumas oportunidades, podendo ser citados como exemplos de resistência os casos Stop Illegal Spying (2013), Stop Online Spying (2011), International Campaign Against Mass Surveillance (2004) e os protestos contra a vigilância governamental no Canadá consagrada no Projeto de Lei C-51 de 2014. 25 Disponível em: https://fra.europa.eu/en/publication/2020/artificial-intelligen ce-and-fundamental-rights. Acesso em: 20 out. 2024.
RkJQdWJsaXNoZXIy MjEzNzYz