A armadilha ética do “impulso humano” (a)crítico na era da inteligência artificial: reflexões éticas e desafios no pós-humanismo 116 apenas reafirmar os mesmos sistemas de exclusão e dominação que sempre moldaram nossas sociedades? Como sugere Benjamin Bratton (2015), talvez seja necessário repensar a própria noção de governança algorítmica, considerando que a IA não apenas responde às diretrizes humanas, mas também reconfigura os modos de organização social e política de maneiras que ainda não compreendemos completamente. Nesse sentido, é interessante mencionar que Mellamphy (2021, p. 11) nos apresenta um cenário não usual em que problematiza os discursos de “IA centrada no humano” que priorizamo controle humano sobre inteligências não-humanas como solução para os desafios colocados por tecnologias emergentes como a IA e o pós-humanismo oferece uma base teórica convincente para essa linha de questionamento e para reimaginar construções éticas alternativas. Para tanto, a referida autora apresenta três cenários distintos nos quais: a) os humanos estão no centro do comando e controle; b) humanos e não-humanos compartilham o controle; c) a supervisão humana é completamente removida. E, ainda sugere que mais atenção poderia ser dada a formas críticas e especulativas de reimaginar os conceitos de “humano,” “não-humano” e as relações entre humanos e não-humanos (Mellamphy, 2021, p. 11). Essa vertente rompe lógicas tradicionais não somente antropocêntricas, mas lógicas também atuais dos pesquisadores na seara dos direitos humanos. Vejamos, partimos do pressuposto constante de que a tecnologia não deve substituir o homem ou até mesmo gerar novas formas de violência e desigualdade na sociedade e para tanto ela deve estar centralizada nas necessidades humanas e no bem-estar macropolítico sob pena de perda do controle significativo. Porém, se invertemos a lógica, os riscos inerentes a utilização dessas mesmas tecnologias autônomas e programáveis se encontra justamente no homem. A análise dos riscos envolvidos no uso de máquinas é essencial, mas é igualmente importante reconhecer que os algoritmos refletem as próprias limitações e ideologias humanas. Assim, críticas e soluções devem considerar tanto a tecnologia em si quanto as estruturas sociais que a influenciam, para que possamos desenvolver sistemas mais equitativos e alinhados de fato aos princípios dos direitos humanos.
RkJQdWJsaXNoZXIy MjEzNzYz