401 Wilson Engelmann A árvore de decisão (Figura 2) apresenta os principais estágios de aplicação do princípio da precaução para sistemas de IA. A direção geral dessa estrutura decisória se orienta por três elementos estimulantes do movimento: o evento a ser avaliado (A); o grau de incerteza (U) que deverá ser analisado e compreendido a partir das suas três formas qualitativas e os efeitos indesejados (C) que o cruzamento do evento e o grau de incerteza poderão provocar. A partir daí, será necessário desencadear metodologias para avaliar o grau do risco de ameaça: risco inaceitável; risco elevado; risco sistêmico ou risco mínimo, conforme a pirâmide do EU AI Act risk-based approach. Os usos dos sistemas de IA que se enquadram como “risco inaceitável” são proibidos. Portanto, na árvore de decisão ingressam as decisões que envolvemos usos dos sistemas de IA que poderão gerar riscos elevados, sistêmicos e mínimos. Caso os riscos identificados sejam sistêmicos e mínimos, bem como se os riscos forem elevados, mas a incerteza não está cientificamente explicitada, ou ainda não se tem esse conhecimento, se devem adotar medidas de robustez e/ ou resiliência. Nesse caso, aplica-se o “tratamento de risco padrão” (Aven, 2023; Pu et al., 2023), equilibrando diferentes preocupações e utilizando várias abordagens e métodos para apoiar a tomada de decisão, incluindo avaliações de risco, análise de decisão e análises do tipo custo-benefício. A ciência apoia a tomada de decisão. Isto contrasta como caso emque as incertezas são científicas, o que significa que a ciência atualmente não fornece conhecimentos sólidos sobre as consequências da atividade. Adicionalmente se poderá adotar as abordagens que se encontram na norma ISO 31.000 (ABNT, 2018), incluindo os chamados princípios de segurança: 1) o princípio à prova de falhas; 2) o princípio das margens de segurança; 3) o princípio de resposta não graduada (sob o qual se subsume o princípio tradicional de “design inerentemente seguro”); 4) o princípio de defesa em profundidade; e 5) o princípio de observabilidade em profundidade (Saleh; Marais; Favaró, 2014). Se constata um movimento reticular entre a robustez dos conhecimentos que são divulgados em periódicos reconhecidos e a resiliência com essa aplicação ao caso concreto. Por outro lado, e a partir da árvore de decisão, se a incerteza for considerada científica, o princípio da precaução deverá ser estruturado a partir do uso intensivo de abordagens de precaução que
RkJQdWJsaXNoZXIy MjEzNzYz