Os sistemas de IA: entre os riscos e as possibilidades do princípio da precaução 398 reconhecer a diversidade de enquadramentos possíveis, negociar diferentes dimensionamentos entre os possíveis, e pelo menos ser transparentes sobre os quadros específicos que se escolhe e as razões de sua seleção; c) a ignorância: aqui não se sabe o quê calcular; o impacto e a probabilidade de determinado evento não se podem calcular. Pode ser caracterizada como: “não sabemos que não sabemos”, isto é, se observa a incapacidade de conceitualizar, articular e considerar os resultados e as relações causais que se encontram além dos quadros de compreensão. A concepção aqui presente se relaciona a uma probabilidade de que haverá impactos potenciais, mas sobre os quais ainda não se pensou, nem sequer foram imaginados como possíveis. Nesse caso, a melhor abordagem será a tentativa de buscar uma gama de opções políticas diversas, de modo a manter a flexibilidade, resiliência e reversibilidade, bem como monitorar de forma consistente e vigilante as possíveis surpresas.8 Os sistemas de IA se enquadram nas três formas qualitativas da incerteza. No entanto, apesar dos inúmeros cuidados inseridos no AI Act, incluindo a gestão dos riscos e a criação de códigos voluntários de conduta, fica evidenciado que será necessário maior articulação e cooperação entre as partes interessadas que se posicionam ao longo do ciclo de vida dos sistemas de IA. Portanto, se propõe uma abordagem abrangente sobre as possibilidades do princípio da precaução, pois as formas de catalogação da incerteza representam formulações especificadas da chamada “incerteza científica”. Esse estado de incerteza sustenta a “ameaça” de se ter determinados estados indesejáveis no mundo. Os sistemas de IA nascem envolvidos nessa “ameaça” séria e que poderá se concretizar, como, por exemplo, a substituição do ser humano pelo sistema de IA, ou seja, um robô. Uma perspectiva é relacionar as incertezas científicas com a dificuldade de estabelecer modelos de previsão precisos para as consequências consideradas (Rechnitzer, 2020). E mais. A dimensão da incerteza diz respeito à ameaça e às suas consequências. Por8 Adaptado a partir de Fern Wickson, Frøydis Gillund e Anne Ingeborg Myhr (2010).
RkJQdWJsaXNoZXIy MjEzNzYz