Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

35 Paola Cantarini ganização Whose Knowledge apontando para a falta de representatividade mundial dos idiomas e dialetos indígenas, e a abordagem feminista e decolonial da Rede de Pesquisa de Inteligência Artificial Feminista “f<A+i>r (Alianza A+. (s.f ). Red mundial de <fa+ir>31, criada com apoio do International Development Research Centre (IDRC) do Canadá, emmarço de 2020. Destaca-se, outrossim, o exemplo positivo do “Indigenous navigator” em prol da autodeterminação indígena, permitindo o controle/transparência/gerenciamento de dados, embora ainda com uma fragilidade por se basear no consentimento, sendo esta uma base legal frágil, e o exemplo negativo o “Whisper”, ferramenta multilíngua desenvolvida pela OpenAi para o reconhecimento, transcrição e tradução tendo se utilizado de dados pessoais indígenas sem consentimento. Fala-se em “giro decolonial”, nos dizeres de Arturo Escobar (Escobar, 2005), com o surgimento de novos “espaços enunciativos”, semelhante ao que se entende por “linhas de fuga” conceito da lavra de Guattari, com ênfase na retomada do pensamento crítico latino- -americano, denunciando o binômio saber-poder de que fala por sua vez Michel Foucault, e o epistemicídio de saberes, valores, histórias locais ou de grupos vulneráveis, tornados invisíveis ou simplesmente acoplados, havendo uma interseccionalidade de colonialidades: colonialidade do ser, do saber, do gênero, da natureza etc., criticando-se a visão limitada de propostas eurocêntricas, por não se permitir olhar para o outro, para a alteridade e o diferente. Como exemplo paradigmático destacamos o modelo de Governança decolonial de dados Maori, inspirado nos princípios “Care” – CARE Principles of Indigenous Data Governance”, reconhecendo a soberania de dados indígenas. São princípios CARE: Collective Benefit, Authority to Control, Responsibility. Tal modelo traz a previsao da proteço e equilibrio entre os direitos individuais e coletivos, o processo de codesenho e a previsão de uma licenca social para o uso dos dados pessoais de tal comunidade.32 É neste sentido também o conceito de “ethos abolicionista” de Ruha Benjamin, em prol da reescrita dos códigos culturais dominantes, falando da existência de um novo código JIM com a criação de castas digitais a partir da discriminação legalizada contra negros; 31 Disponível em: https://aplusalliance.org/global-fair/. Acesso em: 20 out. 2024. 32 Disponível em: https://www.gida-global.org. Acesso em: 20 out. 2024.

RkJQdWJsaXNoZXIy MjEzNzYz