69 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD tante, gerar efeitos transformativos que impactam a sociedade e a vida humana, afinal, podem afetar a autonomia humana e a organização política e social. Tudo isso ainda é agravado pela ausência de rastreabilidade, que dificulta a obtenção de explicações, respostas e prestação de contas. 1.2.3 Aplicação de sistemas de IA em questões críticas No cenário da América Latina é possível verificar alguns exemplos da implementação de sistemas capazes de tomar decisões automatizadas (e semiautomatizadas). Fuentes e Venturini (2021), neste sentido, examinam a implementação desses sistemas no setor público do Brasil, Chile, Colômbia e Uruguai. Os autores advertem, desde o início, que a empreitada tecnológica implicar uma promessa de eficiência e otimização de recursos públicos na resolução de problemas complexos; contudo, paradoxalmente pode igualmente constituir uma ameaça, uma vez que é capaz de causar grandes preocupações sobre o seu impacto no âmbito dos direitos humanos e garantias fundamentais – especialmente diante da possibilidade de aumento de práticas discriminatórias contra grupos historicamente vulneráveis. O relatório Decisões automatizadas na gestão pública na América Latina, elaborado em 2021 pela organização Derechos Digitales, apresenta quatro casos paradigmáticos sobre a aplicação de decisões automatizadas e algumas de suas problemáticas, no que toca a relação com casos atrelados a direitos fundamentais: (1) Caso SINE (Brasil): projeto desenvolvido entre o governo brasileiro e a empresa Microsoft para oferecer ofertas de emprego e oportunidades de forma personalizada, por meio de decisões automatizadas, realocando pessoas desempregadas no mercado de trabalho; (2) Sistema Alerta Niñez (Chile): sistema que objetivava uma atuação estatal preventiva na vida de crianças e adolescentes chilenas, através de um escore, com a finalidade de prever o nível de risco aos menores, isto é, a probabilidade de terem seus direitos violados; (3) PretorIA (Colômbia): sistema responsável, no âmbito do Poder
RkJQdWJsaXNoZXIy MjEzNzYz