63 Inteligência Artificial e segredo de negócio: uma aproximação a partir da LGPD decisões que afetam pessoas venha a degradar o status e a dignidade dos humanos”. Algumas das aplicações da IA, assim como preocupações decorrentes do desenvolvimento tecnológico, serão apresentadas abaixo. 1.2.2 Aplicações e preocupações no desenvolvimento de sistemas de IA Ao fazer referência à cena do filme de ficção científica Elysium (2013), em que o personagem Max apela ao robô “oficial de liberdade condicional” a injustiça de sua sentença, Russel (2021, p. 164), critica o emprego de decisões automatizadas em questões sensíveis à dignidade da pessoa humana, e isso ocorre essencialmente de duas maneiras: (1) ao delegar às máquinas autoridade para decidir sobre questões humanas, pode haver uma perda do direito de participação emdecisões que afetamaspectos sensíveis da vida humana, e; (2) a permissão de seu uso, sem levar em condições e circunstâncias de cada sujeito submetido a decisão, pode indicar a carência de valoração da vida humana, sugerindo uma possível e futura separação (ou ruptura) entre uma elite, que será submetida a decisões humanas, e uma grande massa, que estará submetida apenas à decisões por máquinas. Em outras palavras, estar-se-á frente a uma nova forma de privilégio: o direito à decisão humana. E isso pode ocorrer em diversas circunstâncias, como na análise de um currículo para seleção de emprego, exames de admissibilidade de benefícios previdenciários, financiamentos bancários, admissibilidade de cidadãos ao acesso de determinadas políticas públicas e – quiçá – até mesmo decisões de autoridades administrativas e judiciais. De fato, alémdos exemplos já citados na parte inicial do subcapítulo, sistemas de IA capazes de realizar decisões automatizadas podem ser vislumbrados em modelos algorítmicos destinados a atividades simples e complexas, como para realizar diagnósticos e tratamentos médicos, reconhecimento facial, criação automatizada de perfis, fornecer conteúdo personalizado e realizar policiamento preditivo (Mittelstadt et al., 2016,
RkJQdWJsaXNoZXIy MjEzNzYz