Os sistemas de IA: entre os riscos e as possibilidades do princípio da precaução 386 contrado no panorama da doutrina do Direito Ambiental, além de decisões do Supremo Tribunal Federal e da Corte Interamericana de Direitos Humanos, esse princípio busca mitigar os efeitos das intervenções humanas no meio ambiente. Com o desenvolvimento tecnológico, aqui observado a partir dos usos dos sistemas de Inteligência Artificial (IA, doravante), o surgimento de riscos variados está presente. O referido documento regulatório europeu previu diversos níveis de riscos, estipulando cuidados para cada um deles. O princípio da precaução também poderá contribuir para que se possa fazer o gerenciamento e amitigação dos efeitos indesejáveis que poderão ser provocados pelos sistemas de IA. Com isso se abremespaços criativos para a inserção da precaução também no ambiente digital, como um desdobramento da concepção de “ambiente” em geral, sendo esse o objetivo geral da pesquisa. Por meio da pesquisa bibliográfica e documental, se busca atender aos seguintes objetivos específicos: a) conhecer as categorias de riscos consagrados pelo AI Act, recém-publicado pela União Europeia; b) analisar as possibilidades do princípio da precaução para o desenho da gestão dos riscos que poderão surgir a partir do desenvolvimento de sistemas de IA. 2. IA E RISCOS: PERSPECTIVAS DESDE O AI ACT (UNIÃO EUROPEIA) Para a compreensão do entendimento de risco, examinando o recém-publicado AI Act (UE, 2024)3, da União Europeia, se recolheram alguns fragmentos ao longo desse texto. O documento regulatório, já em seus “Considerandos”, deixa claro que se trata de uma “regulação baseada em riscos”, perspectivada pelo tipo, conteúdo e âmbito dos riscos que podem ser provocados pelos “sistemas de inteligência artificial (IA)”.4 A partir dessa definição, o “Considerando” 3 AI Act, doravante. 4 Segundo o artigo 3.º, “Definições”, “Sistema de IA representa um sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais; [...]” (UE, 2024).
RkJQdWJsaXNoZXIy MjEzNzYz