Inteligência Artificial na justiça criminal: entre a inovação tecnológica e os desafios éticos e jurídicos na proteção dos Direitos Humanos 66 Assim, de acordo com o Direito Internacional Humanitário, para que ataques sejam considerados legais, ele deve ser dirigido exclusivamente contra alvos militares, sendo concebido o princípio da distinção no artigo 48 do Protocolo Adicional I de 1977, que prevê uma proteção para os não combatentes. Mas, como um sistema autônomo de armas não possuírem qualquer sentimento à vida humana e a sua destruição, a morte é reduzida a uma expressão numérica de um algoritmo que não detém a aptidão para compreender a gravidade da situação, podendo ocasionar problemas éticos. Além da distinção de alvos baseados em algoritmos ou IA, também é imprescindível estabelecer uma ordem de prioridade entre os alvos possíveis, que funcionarão como garantias nas condutas em campos de batalha quando tais capacidades forem desenvolvidas corretamente, voltando-se a padrões estabelecidos pela lei, principalmente no que tange ao princípio da distinção. No momento, os sistemas autônomos não se mostram seguros o suficiente para a tomada de decisões, mas os sistemas defensivos de curto alcance para navios contra alvos aéreos ou sistemas defensivos imóveis para a proteção de fronteiras mostram resultados mais avançados quando se trata de direito humanitário. Isso ocorre devido à baixa probabilidade de civis ou objetos civis seremvisualizados, considerando o caráter isolado do local em que tais sistemas geralmente se encontram instalados (Güneysu, 2024, p. 10-15). Nas prisões, novas ferramentas de IA são utilizadas para a automação da segurança, determinar as necessidades criminogênicas dos infratores, monitorar intervenções nos procedimentos de sentença, reabilitação prisional e disponibilizar assistentes inteligente para presos que estão confinados em solitárias. Sistemas de IA são utilizados nos tribunais prever fuga de suspeitos que aguardam julgamento, de presos ou de infratores em processos com fiança ou liberdade condicional. Na prevenção de crimes, algoritmos e sistemas de IA amplificam formas de vigilância secreta e vigilância de dados, violam direitos fundamentais e o direito à proteção de dados pessoais (Završnik, 2020).
RkJQdWJsaXNoZXIy MjEzNzYz