Os sistemas de IA: entre os riscos e as possibilidades do princípio da precaução 402 implicam: a) humildade e reconhecimento dos limites do conhecimento disponível; b) pesquisa e monitoramento que ultrapassam os modelos teóricos e testes de laboratório para cobrir um conjunto mais completo de mecanismos causais indiretos de dano; c) a participação de uma gama completa de partes interessadas e afetadas, se abrem espaços criativos para a participação de atores públicos e privados dedicados à gestão dos riscos dos sistemas de IA, a serem testados em laboratórios reais como o chamado “Living Lab Regulatório” e d) uma consideração tanto dos prós como dos contras de uma variedade de opções alternativas, quanto das características mais gerais dos compromissos tecnológicos. Em resumo, os elementos importantes do que representa uma abordagem de precaução para a tomada de decisões são: 1) o uso de pesquisa científica que é amplamente enquadrada, interdisciplinar, capaz de considerar os mecanismos causais indiretos e contribuir para uma abordagem de análise do ciclo de vida dos sistemas de IA; 2) um reconhecimento das limitações deste conhecimento científico e uma disposição para expor o conhecimento à reflexão crítica e à “revisão por pares prolongada”, particularmente para criar transparência sobre escolhas e suposições incorporadas; 3) o compromisso de reduzir as incertezas e minimizar surpresas geradas pelo desconhecimento por meio de vigilância, pesquisa e monitoramento contínuos; 4) um tratamento transparente de ambiguidade e indeterminação através de abordagens inter e transdisciplinares e ampla participação pública. Esse tratamento inclui a consideração e implementação de uma série de alternativas sócio-técnicas e opções políticas (Wickson; Gillund; Myhr, 2010, p. 464; Tamascelli, 2024). Para fechar os percursos da “árvore de decisão”, a partir da mobilização da resiliência, onde se encontra a aprendizagem (Luhmann) já existente sobre o tema, se faz necessária a comunicação do risco, conforme se observa na figura a seguir:
RkJQdWJsaXNoZXIy MjEzNzYz