387 Wilson Engelmann n. 26, reconhece que “[...] é necessário proibir determinadas práticas inaceitáveis de IA, estabelecendo requisitos aplicáveis aos sistemas de IA de risco elevado e obrigações para os operadores pertinentes, bem como definir obrigações de transparência para determinados sistemas de IA” (UE, 2024). Comessa passagem, emerge umdos princípios centrais do documento, que é o da “transparência”. Ao lado da “regulação baseada em riscos”, se torna observável, igualmente, uma “regulação baseada em princípios”, pois o “Considerando” n. 27 remete aos sete princípios éticos, publicados em 2019, buscando estruturar uma IA de confiança e eticamente correta, quais sejam: “iniciativa e supervisão por humanos; solidez técnica e segurança; privacidade e governança dos dados; transparência; diversidade, não discriminação e equidade; bem-estar social e ambiental e responsabilização” (CE, 2019). A centralidade da pessoa humana se explicita por meio da preocupação dessa publicação de 2019, e que se repete no AI Act, evidenciando que todos os sistemas de IA são desenvolvidos e utilizados como uma ferramenta ao serviço das pessoas, respeitando a dignidade humana e a autonomia pessoal e que funciona de uma forma que possa ser adequadamente controlada e supervisionada por seres humanos. Portanto, uma linha mestra que coordena todo o instrumento regulatório está preocupada com o ser humano, sublinhando que os avanços tecnológicos dos sistemas de IA e as amplas possibilidades de suas variadas utilizações deverão sempre estar sob o controle e em benefício do humano. Essa linha também se projeta sobre a estrutura do “sistema de gestão de riscos”, que se caracteriza no “Considerando” n. 65, e consagrado no artigo 9o do documento, como um [...] processo iterativo contínuo, que seja planejado e executado ao longo de todo o ciclo de vida de um sistema de IA de risco elevado. Esse processo deverá ter por objetivo identificar e atenuar os riscos pertinentes dos sistemas de IA para a saúde, a segurança e os direitos fundamentais. O sistema de gestão de riscos deverá ser revisto e atualizado regularmente, a fim de assegurar a sua eficácia contínua, bem como a justificação e documentação de quaisquer decisões e medidas significativas tomadas ao abrigo do presente regulamento. O sistema de gestão de riscos deverá adotar as medidas de gestão dos riscos mais adequadas à luz do estado da arte no domínio da
RkJQdWJsaXNoZXIy MjEzNzYz