Os sistemas de IA: entre os riscos e as possibilidades do princípio da precaução 394 e outros documentos correlatos, buscando construir segurança e confiabilidade, ainda assim “[...] o mecanismo de atribuição do risco às decisões opera de maneira circular (reticular). As inseguras e desvantajosas consequências que se pode atribuir às decisões são consideradas como o risco da decisão. Os riscos podem ser identificados também como algo que possui uma dependência decisional. Não existem alternativas decisionais, e nenhuma possibilidade de comportamento livre de riscos” (Luhmann, 1991, p. 150-169). Nesses ensinamentos de Luhmann se observa o cuidado a ser tomado em cada decisão, a qual, apesar disso, sempre haverá algum grau de risco. Embora a decisão projete o risco de danos futuros, será importante o ato humano “[...] aprender [que] não significaria aqui outra coisa que extrair consequências de um caso particular, tido até o momento (e no futuro) por improvável, modificando para todos os programas válidos da decisão”. Segundo Luhmann, “[...] os efeitos da aprendizagem dessa índole seriam exatamente: exames pormenorizados, processos de decisão de maior decisão, uma maior tendência a renunciar a oportunidades em favor de decisões menos arriscadas” (Luhmann, 1991, p. 249). Somente o ser humano poderá aprender com decisões – certas ou erradas, lícitas ou ilícitas – tomadas anteriormente. A partir delas, deverá desencadear atitudes voltadas à gestão dos riscos, como mecanismos onde a aprendizagem se desenha e ganha robustez para fazer frente aos desafios trazidos pelos avanços engendrados nos sistemas de IA. 3. GESTÃO DOS RISCOS QUE PODERÃO SER GERADOS PELO USO DE SISTEMAS DE IA E O PRINCÍPIO DA PRECAUÇÃO Tradicionalmente o princípio da precaução é aplicado no âmbito do Direito Ambiental (Engelmann, 2017; Engelmann; Machado, 2013). Alémda análise doutrinária, o princípio da precaução também se encontra em decisões do Supremo Tribunal Federal, promovendo o controle de constitucionalidade no contexto do Direito Brasileiro6 6 Se toma aqui, apenas de modo exemplificativo, o Acórdão do Recurso Extraordinário 627.189/SP, julgado em8 de junho de 2016, Relator Ministro Dias Tofoli, publicado em 3 de abril de 2017 e comentado por Wilson Engelmann (2017).
RkJQdWJsaXNoZXIy MjEzNzYz