19 Wilson Engelmann e Camila Machado Dias De acordo com o Artigo 16, as obrigações do provedor incluem: (i) garantir a conformidade do agente com os requisitos da Seção 2 do Capítulo III — que abrangem gestão de riscos, governança de dados e outros; (ii) implementar um sistema de gestão da qualidade (Art. 17); (iii) manter a documentação técnica pertinente (Art. 18) e os registros automáticos de operação (Art. 19); (iv) submeter o agente ao procedimento de avaliação de conformidade aplicável (Art. 43); (v) elaborar a Declaração de Conformidade da União Europeia (Art. 47) e afixar a marcação CE correspondente (Art. 48); (vi) registrar o agente na base de dados europeia (Art. 49); (vii) estabelecer mecanismos de monitoramento pós-comercialização (Art. 72), adotando medidas corretivas quando necessário e comunicando incidentes graves às autoridades competentes (Arts. 20 e 73); e (viii) cooperar de forma contínua com os órgãos de fiscalização10. Já os deployer (usuários), são aqueles que aplicam os agentes de IA emcontextos específicos, seja no setor público, seja no privado. Sua responsabilidade recai sobre a forma de uso da tecnologia, o que inclui a adequação às finalidades previstas e a prevenção de danos a terceiros11. Por exemplo, umbanco que utiliza IA para análise de crédito deve não apenas confiar na robustez do agente fornecido, mas também adotar medidas para mitigar vieses e assegurar conformidade regulatória. Suas obrigações (Artigo 26) incluem usar o agente de acordo com as instruções do provedor, garantir a competência do pessoal encarregado da supervisão humana, monitorar o funcionamento do agente e, em certos casos (se for uma autoridade pública ou entidade que presta serviços públicos), realizar uma avaliação de impacto sobre os direitos fundamentais antes de o utilizar (Artigo 27)12. O IA Act ainda prevê papéis específicos para outros operadores envolvidos na colocação de agentes de inteligência artificial no mercado europeu, estabelecendo deveres distintos para cada umdeles. O Authorised Representative (Representante Autorizado) é a pessoa 10 PIEDRA ALEGRÍA, Jonathan. Anotaciones iniciales para una reflexión ética sobre la regulación de la Inteligencia Artificial en la Unión Europea. Revista de Derecho, Montevideo, n. 28, e3264, jul./dez. 2023. Disponível em: http://www. scielo.edu.uy/scielo.php?script=sci_arttext&pid=S2393-61932023000201402. Acesso em: 28 set. 2025. 11 UNIÃO EUROPEIA, op. cit. 12 UNIÃO EUROPEIA, op. cit.
RkJQdWJsaXNoZXIy MjEzNzYz