157 Anais do XXI Seminário Internacional Nanotecnologias, Sociedade e Meio Ambiente desafios jurídicos éticos e sociais para a “grande transição sustentável” (XXI SEMINANOSOMA) avanços tecnológicos, devem ser decididos em prol da pessoa humana” (COLOMBO; GOULART, 2021). O foco principal da regulação resi- de na proteção robusta da saúde, segurança e direitos fundamentais, enquanto também impulsiona a inovação e o emprego. Como requisito fundamental, a IA deve ser orientada pelo bem-estar humano e servir como uma ferramenta para melhorar a qualidade de vida das pessoas. Para alcançar esse objetivo, estabelecem-se diretrizes que visam reduzir os riscos naturais dos sistemas, priorizando a transparência e informações adequadas, O Regulamento determina que o uso de sistemas de IA para acesso a serviços essenciais, tanto públicos quanto privados, por exemplo cuidados de saúde, deve ser considerado de alto risco, cum- prindo uma série de requisitos, incluindo sua gestão, qualidade e relevância dos conjuntos de dados, documentação técnica, manutenção de registros, transparência, prestação de informações aos responsáveis pela implantação, supervisão humana, solidez, precisão e segurança cibernética. Os conjuntos de dados devem possuir propriedades esta- tísticas apropriadas, especialmente, em relação às pessoas ou grupos de pessoas para os quais o sistema de IA de alto risco é direcionado (BORTOLINI, 2024). Como ponto de atenção, Alpa e Resta apontam três grandes riscos às decisões algorítmicas: “o segredo ou a ininteligibilidade da lógica implícita no processo decisional”, no particular, o paciente não vir a compreender de que modo se chegou àquela solução para o seu caso; a “atitude discriminatória do algoritmo”, se a IA recomenda a não utilização do tratamento por algum viés embarcado, como, por exem- plo, identificação de emoções negativas, reconhecimento de palavras ofensivas, não ligadas aos protocolos médicos; a “mortificação da pessoa humana”, quando a decisão é inteiramente automatizada (ALPA; RESTA, 2020), no caso, pelo acatamento sem crítica do procedimento determinado pela IA pelo profissional da medicina, ou, da parte do paciente, sem a possibilidade de se manifestar sobre o resultado, consi- derando a IA um julgador acima de críticas. No Brasil, o art. 20 da Lei nº 13.709 de 2018 (LGPD) é considerado o primeiro dispositivo a tratar explicitamente da inteligência artificial (IA). Não obstante a LGPD tenha sido concebida com o foco na proteção de dados pessoais, ao regulamentar decisões automatizadas, acabou por incluir uma disposição específica aplicável à IA. O caput do artigo assegura o direito à revisão das decisões automatizadas, enquanto o parágrafo primeiro garante ao titular dos dados o direito de obter uma explicação do controlador sobre tais decisões (BORTO-
RkJQdWJsaXNoZXIy MjEzNzYz