Casa Leiria
Este livro é o resultado parcial das pesquisas realizadas pelos autores no âmbito do projeto de pesquisa “INTELIGÊNCIA ARTIFICIAL PARA UM FUTURO SUSTENTÁVEL: DESAFIOS JURÍDICOS E ÉTICOS” Conselho Nacional de Desenvolvimento Científico e Tecnológico - CNPq Ministério da Ciência, Tecnologia e Inovações – MCTI Processo número 405763/2021-2, Chamada CNPq/MCTI/FNDCT Nº 18/2021 – UNIVERSAL 2021
INTELIGENCIA ARTIFICIAL PARA UN FUTURO SOSTENIBLE DESAFÍOS JURÍDICOS Y ÉTICOS HAIDE MARIA HUPFFER JORGE EDUARDO VÁSQUEZ SANTAMARÍA TAELI GÓMEZ FRANCISCO (ORGANIZADORES) CASA LEIRIA SÃO LEOPOLDO/RS 2024
INTELIGENCIA ARTIFICIAL PARA UN FUTURO SOSTENIBLE: DESAFÍOS JURÍDICOS Y ÉTICOS Organizadores: Haide Maria Hupffer Jorge Eduardo Vásquez Santamaría Taeli Gómez Francisco DOI: https://doi.org/10.29327/5416230 Os textos são de responsabilidade de seus autores. Processo de avaliação por pares: a fim de garantir o padrão de excelência na qualidade da obra, os capítulos enviados foram submetidos a um exame prévio pelos organizadores e pela Editora e, posteriormente, foram submetidos ao sistema de dupla avaliação cega (double blind review) para revisores especializados na temática. Qualquer parte desta publicação pode ser reproduzida, desde que citada a fonte. Catalogação na Publicação Bibliotecária: Carla Inês Costa dos Santos – CRB: 10/973 Casa Leiria Ana Carolina Einsfeld Mattos Ana Patrícia Sá Martins Antônia Sueli da Silva Gomes Temóteo Glícia Marili Azevedo de Medeiros Tinoco Haide Maria Hupffer Isabel Cristina Arendt Isabel Cristina Michelan de Azevedo José Ivo Follmann Luciana Paulo Gomes Luiz Felipe Barboza Lacerda Márcia Cristina Furtado Ecoten Rosangela Fritsch Tiago Luís Gil Conselho Editorial (UFRGS) (UEMA) (UERN) (UFRN) (Feevale) (Unisinos) (UFS) (Unisinos) (Unisinos) (UNICAP) (Unisinos) (Unisinos) (UnB) I61 Inteligencia artificial para un futuro sostenible: desafíos jurídicos y éticos [recurso eletrônico] / organização Haide Maria Hupffer, Jorge Eduardo Vásquez Santamaría, Taeli Gómez Francisco. – São Leopoldo: Casa Leiria, 2024. Disponível em: <https://www.casaleiriaacervo.com.br/direito/ iafuturosostenible/index.html> Conteúdo: textos em português, inglês e espanhol. ISBN 978-85-9509-133-7 1. Direito – Tecnologia. 2. Direito – Inteligência artificial – Sustentabilidade. 3. Direito – Inteligência artificial – Ética. I. Hupffer, Haide Maria (Org.). II. Santamaría, Jorge Eduardo Vásquez (Org.). III. Francisco, Taeli Gómez (Org.). CDU 34:004
INTELIGENCIA ARTIFICIAL PARA UN FUTURO SOSTENIBLE DESAFÍOS JURÍDICOS Y ÉTICOS
Inteligencia Artificial para un futuro sostenible: desafíos jurídicos y éticos 6 SUMÁRIO 9 Inteligencia Artificial para un futuro sostenible: desafíos jurídicos y éticos Taeli Gómez Francisco 13 Desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA voltados à sustentabilidade ambiental Haide Maria Hupffer Adriano Sbaraine Danielle Paula Martins 39 La inclusión de la variable ambiental, la prevención, la precaución y la ciudadanía ambiental frente a la Inteligencia Artificial (IA) Elvigia Cardona Zuleta Jorge Eduardo Vásquez Santamaría 65 Por un enfoque multidimensional del derecho de desastres frente a los impactos del cambio climático José Laurindo de Souza Netto Antonio Evangelista de Souza Netto Flavia Jeanne Ferrari 87 La educación jurídico ambiental aplicación de la Inteligencia Artificial en el proceso docente educativo Alcides Antúnez Sánchez 121 Devido processo legal e intervenção de Inteligência Artificial no judiciário Thiago Felipe S. Avanci Alder Thiago Bastos Sabrina Santos 155 A nova Lei de Licitações: Inteligência Artificial e o futuro sustentável Marília Cláudia Martins Vieira e Couto Paulo Campanha Santana Esther Sanches Pitaluga
7 Haide Maria Hupffer, Jorge Eduardo Vásquez Santamaría e Taeli Gómez Francisco (organizadores) 185 Artificial Intelligence and environmental racism: initial reflections Lutiana Valadares Fernandes Barbosa Juliana Moreira Mendonça 203 Inteligencia Artificial - en el ambito jurídico y los derechos fundamentales Paula Fabiana Romano Patricia A. Cozzo Villafañe 221 Daños ocasionados por sistemas de inteligencia artificial: desarrollo vs derechos Luis Pérez Orozco 241 Big data e inteligência artificial: a ascensão das técnicas digitais de controle social Mauricio Dal Castel 271 Comentarios a la posible protección o no por la propiedad intelectual de las creaciones resultado de la Inteligencia Artificial en Cuba Yulier Campos Pérez 295 La dignidad en el embrión humano, avances tecnológicos en materia de Inteligencia Artificial en los términos de Derechos Humanos Paula Fabiana Romano 313 Sesgos de género en la Inteligencia Artificial aportes de los feminismos jurídicos Elvigia Cardona Zuleta Natalia Baena Robledo 333 Algunos recursos digitales de la administracion tributaria Patricia Cozzo Villafañe 347 Índice remissivo
9 INTELIGENCIA ARTIFICIAL PARA UN FUTURO SOSTENIBLE: DESAFÍOS JURÍDICOS Y ÉTICOS Taeli Gómez Francisco Las complejidades de las realidades actuales se presentan desafiantes para la importancia de un futuro sostenible -a modo ecopoiético, utilizando el sentido planteado por Lavanderos y Malpartida (2023). Nuestras producciones culturales, científicas y tecnológicas, crean paradójicamente, incertidumbre para las vidas. En este contexto, es fundamental reflexionar sobre cómo estas producciones pueden integrarse de manera efectiva y éticas en un mundo dinámico e impetuoso. Al considerar el significado del futuro, es evidente que nunca ha sido un tema trivial en las narrativas históricas. En los distintos pueblos y épocas se consultaba por él, a oráculos, a las señales de la naturaleza y a los astros, entre otros métodos y prácticas, para intentar divisarlo como un sendero entre las sombras del mañana. Sin embargo, hoy, la concepción del futuro no solo implica curiosidad y anticipación como oportunidad para dotar de beneficio al presente, sino culturalmente, representa una necesidad imperiosa de gestionar y mitigar riesgos para asegurarlo. Cuando Benedetti dice “El futuro real, el mismo que inventamos nosotros y el azar. Cada vez más nosotros y menos el azar”, nos sitúa frente a la ocupación que debemos tener sobre nuestras decisiones y acciones, siendo cada vez más responsables, no solo de nuestra propia especie, sino también de las demás. Temas como el cambio climático, la crisis social y planetaria, han sido en las últimas décadas, una fuente de cuidado e inspiración científica. Hoy, sin perder su vigencia y relevancia, se le suman los avances de la inteligencia artificial (IA), como un manantial de interrogantes y propuestas innovadoras. Todos estos asuntos trascendentales son los que convocan a científicos, científicas y a nuestra Red de Derecho de América Latina y el Caribe, REDALC, a involucrarDOI: https://doi.org/10.29327/5416230.1-1
Inteligencia Artificial para un futuro sostenible: desafíos jurídicos y éticos 10 se desde lugares epistémicos comprometidos con las vidas y su dignidad en todas sus formas. Es precisamente, este desafío al que cada autor y autora de cada capítulo de este libro colectivo pretende responder. En tal sentido, les une el problema científico de reflexionar de manera crítica y multidimensional, frente al impacto de la inteligencia artificial y del futuro sostenible. En consecuencia, sus investigaciones y propuestas buscan responder, de algún modo, a la pregunta, cómo esta tecnología puede integrarse de manera ética y sostenible en diversas áreas del derecho y la sociedad. Quienes lean este libro encontrarán una amplia gama de dominios relacionados a la inteligencia artificial y su impacto en la sostenibilidad y el ámbito jurídico, tratados de manera muy sugerente y motivadora. Se abordan en él, las oportunidades y riesgos que la IA presenta para la sostenibilidad, subrayando la necesidad de una agenda ética y de gobernanza global. Se examina también la inclusión de la variable ambiental y la ciudadanía ambiental en el contexto de la IA, destacando la importancia de valorar la relación de esta y los principios éticos y jurídicos del derecho ambiental, como la responsabilidad por contaminación, la prevención, la precaución, la ciudadanía ambiental, entre otros aspectos que son considerados. Otro tema que se trata en esta obra es el enfoque multidimensional del derecho de desastres frente a los impactos del cambio climático. Se analiza cómo la IA puede aplicarse en la educación jurídico-ambiental, mejorando el proceso docente educativo. Además, se discuten cuestiones como el debido proceso y su intervención en el sistema judicial, así como el impacto de la nueva ley de licitaciones y el futuro sostenible. Se plantea el racismo ambiental, los derechos fundamentales y los daños ocasionados por sistemas de IA, comparando el desarrollo tecnológico con los derechos humanos. Se incluyen reflexiones sobre big data, técnicas digitales de control social, y la posible protección por la propiedad intelectual de las creaciones resultantes de la IA. Se exploran sus avances tecnológicos en relación con los derechos humanos y la dignidad del embrión humano, y los sesgos de género que se pueden generar y los aportes de los feminismos jurídicos, y se presentan algunos recursos digitales de la administración tributaria.
11 Taeli Gómez Francisco Como se aprecia, a través de las páginas de este libro, se encontrarán ideas estimulantes, tanto como propuestas inspiradoras y debates provocadores; además se ofrece una enjundiosa bibliografía que no solo respalda las investigaciones presentadas, sino que también, establece un terreno en disputa que invita a pensar y re-pensar nuestro papel en la era de nuevas relaciones, desafiando nuestras perspectivas y motivándonos a contribuir a un futuro justo y sostenible. Estos temas, y cada uno de los aquí tratados, abren espacios para futuros diálogos que convocan a diversos actores, sean autoridades, legisladores, jueces, comunidades científicas, educativas y en general a las sociedades, a evaluar oportunidades o beneficios que pueda significar la IA. Su aplicación al monitoreo climático, posibilidades de predicción a desastres, la gestión de residuos y la eficiencia energética, como de igual modo, al ámbito jurídico y jurisdiccional; Sin embargo, se deben evaluar y distinguir sus impactos y riesgos potenciales. Resulta entones, del todo fundamental, establecer y consensuar criterios con alcances éticos y jurídico-político, ante la rápida expansión de la IA en diversas atenciones prácticas. Debo reconocer que, como coordinadora general de la RED de Derecho América Latina y el Caribe, REDALC, he tenido la suerte de conocer a docentes, estudiantes, investigadores e investigadoras, trabajadores y trabajadoras de la cultura y las artes, de distintos lugares de nuestro continente; y desde ahí, he podido valorar que la inter y transdisciplina, han propiciado un distanciamiento a concebir los objetos de estudio de modo objetual y formal, en particular en el ámbito jurídico. Se ha dado paso a un proceso de investigación y creación, sobre la base de problemas que obstaculizan un buen o bien vivir. He podido constatar de estos procesos que las dimensiones de la vida humana y no humana, de las tramas de la vida y de las plurales relaciones, no han dejado de estar presentes en las publicaciones realizadas. Enorgullece que se hayan acogido las invitaciones, que se materialicen en producciones de calidad, que se puedan transformar en un relevante aporte con miras a pensar y orientar panoramas, y que, a su vez, se puedan compartir con los y las estudiantes que serán, finalmente, quienes convivan con estas nuevas posibilidades tecnológicas y quienes deben ser cuidados de no con-
Inteligencia Artificial para un futuro sostenible: desafíos jurídicos y éticos 12 vertirlas en fetiches de alienación, para evitar que se liberen de la obligación de pensar y transformar. La inteligencia artificial debe seguir inspirando nuevas investigaciones e innovaciones que nos alerten y nos muestren los beneficios en el contexto de las vidas -en todas sus tramas y dignidades-. La tecnología no es neutra, sino que nos objetiva. En tal sentido, hay que establecer criterios que le orienten en el irrenunciable compromiso con el vivir. Es imposible ignorar que todos estos temas son fascinantes y que, al convertirse en problemas científicos, implican una gran responsabilidad que activan las alarmas del futuro. Dra. Taeli Gómez Francisco Titular da Universidad de Atacama-Chile Coordinadora General de la RED Derecho América Latina y el Caribe Directora Revista Complejidades del Ágora Jurídica REFERENCIA Lavanderos L., &Malpartida A. (2023). Ecopoiesis. Life as a relational unit. Ecopoiesis: Eco-Human Theory and Practice, 5(1), 45-56. https://cy berleninka.ru/article/n/ecopoiesis-life-as-a-relational-unit/ pdf
13 DESAFIOS ÉTICOS, JURÍDICOS E DE GOVERNANÇA PARA O DESENVOLVIMENTO DE SISTEMAS DE IA VOLTADOS À SUSTENTABILIDADE AMBIENTAL1 Haide Maria Hupffer2 Adriano Sbaraine3 Danielle Paula Martins4 1. INTRODUÇÃO O avanço de tecnologias de Inteligência Artificial (IA) para a sustentabilidade ambiental está ganhando força no mundo inteiro e tem pressionado autoridades para criar normativas de proteção ao ser humano e ao meio ambiente. Soluções baseadas em IA estão impulsionando uma nova era para o desenvolvimento sustentável com potencial para enfrentar diferentes problemas ambientais, tais como: previsão de desastres, monitoramento do sistema climático, gestão de resíduos, monitoramento e fiscalização ambiental, cidades sustentáveis, cadeias de suprimento sustentáveis, agricultura de precisão, eficiência energética, redução de desperdício, entre outras. 1 Este trabalho é o resultado parcial das pesquisas realizadas pelos autores no âmbito do projeto de pesquisa “Inteligência Artificial para um Futuro Sustentável: Desafios Jurídicos e Éticos”. Edital CNPq/MCTI/FNDCT Nº 18/2021 – Universal 2021 – Processo: 405763/2021-2. 2 Pós-Doutora e Doutora em Direito pela Unisinos. Docente e Pesquisadora no Programa de Pós-Graduação em Qualidade Ambiental da Universidade Feevale e do Curso de Direito. Líder do Grupo de Pesquisa CNPq/Feevale “Direito e Desenvolvimento”. Líder do Projeto de Pesquisa CNPq/Feevale “Inteligência Artificial para um Futuro Sustentável: Desafios Jurídicos e Éticos”. E-mail: haide@feevale.br 3 Advogado. Pós-Graduado em Direito Previdenciário. Mestre e Doutorando do Programa de Pós-Graduação emQualidade Ambiental da Universidade Feevale. E-mail: dradriano@hotmail.com 4 Doutora em Qualidade Ambiental pela Feevale. Docente e Pesquisadora no Programa de Pós-Graduação em Qualidade Ambiental da Universidade Feevale. Coordenadora do Laboratório de Vulnerabilidades, Riscos e Sociedade – LaVuRS. E-mail: daniellepm@feevale.br DOI: https://doi.org/10.29327/5416230.1-2
Desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA voltados à sustentabilidade ambiental 14 No entanto, até o momento, há apenas uma compreensão limitada dos impactos e potenciais riscos ao meio ambiente e ao ser humano. São desafios éticos, jurídicos e de governança que devem ser compreendidos, uma vez que a ampliação da utilização exponencial da IA, em diferentes aplicações práticas em nome da sustentabilidade ambiental, podem trazer graves consequências, implicando em efeitos ambientais negativos e irreversíveis. Preocupados com o tema e após intensos debates e negociações, diferentes organismos internacionais formularam princípios para uma IA ética, que esteja a serviço do ser humano e do planeta, que seja segura, robusta, transparente, auditável, que respeite os direitos humanos e que seja utilizada para o bem comum. A partir do exposto, o presente estudo objetiva apresentar algumas alternativas de sistemas de IA utilizados para promover a sustentabilidade ambiental emitigar os efeitos dasmudanças climáticas, examinando tambéma sua pegada de carbono, bem como analisar os principais movimentos internacionais que recorrem à ética afim de elaborar princípios e encaminhar alternativas que podem ser o ponto de partida e avançar na construção de marcos regulatórios. O futuro da humanidade será determinado não apenas pela natureza do aprendizado de máquina e aprendizado profundo em sim, mas pelo compromisso dos países e das organizações internacionais comuma regulamentação que garanta que sistemas e tecnologias de IA sejam sustentáveis em todo o seu ciclo com restrições para o uso de IA que possam representar riscos para os direitos fundamentais, à saúde do ser humano, infraestrutura crítica e ao meio ambiente. A pesquisa é de natureza qualitativa, descritiva e exploratória, adota o método dedutivo e utiliza como procedimento técnico a pesquisa bibliográfica e documental. A pesquisa documental é apoiada nos princípios éticos da Conferência de Asilomar, OECD e União Europeia. 2. A UTILIZAÇÃO DA IA PARA A SUSTENTABILIDADE AMBIENTAL E PARA O COMBATE ÀS MUDANÇAS CLIMÁTICAS Sistemas de Inteligência Artificial (IA) podem desempenhar um papel crucial na busca pela sustentabilidade ambiental. Em um contexto espacial e temporal marcado, cada vez mais, pelo avanço
15 Haide Maria Hupffer, Adriano Sbaraine e Danielle Paula Martins sem precedentes de eventos extremos relacionados às mudanças climáticas, sistemas de IA estão sendo desenvolvidos para o monitoramento e previsão de eventos climáticos que possibilitam antecipar mudanças climáticas, proteção de recursos naturais, previsão de geração de energias a partir de fontes renováveis, gestão inteligente de redes elétricas e de consumo de água, redução de gases de efeito estufa, otimização de rotas de transportes, agricultura de precisão, proteção e monitoramento da biodiversidade, dentre outros. O Programa das Nações Unidas para o Meio Ambiente (PNUMA) criou a Sala de Situação Ambiental Mundial (SSAM) que captura, armazena, indexa e disponibiliza por uma plataforma digital dados complexos e multifacetados sobre o planeta. A SSAM é uma sala democrática, apoiada por um consórcio de parceiros (empresas, governos, academias, parlamentos, empresas), que disponibiliza “análises em tempo real e previsões futuras sobre múltiplos fatores, incluindo a concentração atmosférica de gases de efeito estufa, alterações nas geleiras e o aumento do nível dos oceanos”. Além de disponibilizar dados fidedignos, precisos e independentes, a SSAM tem como objetivo “torna-se um centro de controle de emissões para o planeta Terra, em que todos os indicadores ambientais vitais podem ser monitorados facilitando a organização das ações e das políticas públicas em defesa do meio ambiente” (Wedy & Iglecias, 2024, p. 17). Como exemplos de iniciativa da SSAM, Wedy e Iglecias (2024, p. 17) relacionam o Observatório Internacional das Emissões de Metano (OIEM) e o Sistema Global de Monitoramento do Ar Ambiental GEMS O OIEM recolhe e integra fluxos de dados globais sobre emissões de metano. A “IA é direcionada para interligar a ciência, a transparência e a política, com a finalidade de informar decisões orientadas por dados”. A plataforma de monitoramento do ar foi criada pelo PNUMA em parceria com a IQAIr para apoiar os países com dados em tempo real sobre a qualidade do ar A GEMS Air agrega os dados de cerca de 30.500 estações de monitoramento da qualidade do ar de mais de 140 países e de uma rede global de parceiros. A IA é utilizada “para oferecer conhecimentos sobre o impacto da qualidade do ar em tempo real sobre as populações e ajuda a orientar políticas públicas de proteção da saúde humana” (Wedy & Iglecias, 2024, p. 17).
Desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA voltados à sustentabilidade ambiental 16 As expectativas em relação à AI são elevadas pela possibilidade de gestão e respostas a vários desafios globais, em especial, para a consecução dos Objetivos de Desenvolvimento Sustentável (ODS), como pontuam Gupta et al. (2021). Vários contextos críticos, como gestão de desastres podem se beneficiar significativamente com o desenvolvimento e utilização de sistemas de IA. Contudo, antes de implementar soluções ancoradas em IA é necessário compreender as implicações práticas de tecnologias baseadas em algoritmos e os potenciais impactos negativos nos ODS relacionados Gupta et al. (2021), a partir da realização de um processo detalhado de consulta à peritos, observaram que 79% das metas dos ODS podem ser afetadas positivamente pela IA, enquanto 35% podem ser afetadas negativamente pelo Desenvolvimento Da IA. Em Relação Aos ODS Com Metas Ambientais, os pesquisadores ressaltaram que essa categoria apresenta o maior potencial de impactos com 93% das metas sendo afetadas positivamente. Como exemplo, os autores citam os ODS 7 e 13 em que a IA pode ser empregada para a utilização mais eficiente de energia e para o desenvolvimento de sistemas mais robustos para prever e gerir a poluição das cidades. De referir, a poluição urbana na Europa é responsável por aproximadamente 800.000mortes anuais, o que faz da aposta em IA para a ação climática (ODS 13) ser uma expectativa positiva. Além do ODS, 7 e 13, os ODS 14 (vida na água) e 15 (vida terrestre) podem se beneficiar substancialmente com soluções baseadas em IA desenvolvidas para conservação e gestão da biodiversidade e dos recursos naturais (Gupta et al., 2021). A quantidade e os tipos de resíduos gerados e descartados criam graves problemas de poluição que afetam a saúde humana e o meio ambiente. Estimativas indicam que no ano de 2050 poderão ser geradas 3,4 bilhões de toneladas de resíduos sólidos urbanos, o que está exigindo novas estratégias para melhorar o ecossistema de resíduos. A incorporação da IA e da robótica em estações de tratamento de resíduos urbanos estão revolucionando a gestão de resíduos sólidos em diferentes países. Transformar resíduos em energia, analisar a composição química dos resíduos, criar lixeiras inteligentes, robôs que fazem a triagem e tratamento de resíduos sólidos e que conseguem distinguir materiais fósseis e diferentes resíduos, atuar na logística e na otimização do transporte, ampliar significativamente a eficiência de processos e reduzir custos, detec-
17 Haide Maria Hupffer, Adriano Sbaraine e Danielle Paula Martins tar, monitorar e rastrear resíduos, despejo ilegal e descarte incorreto; maximizar a utilização de recurso, ampliar a eficiência no ciclo de gestão de resíduos sólidos, são exemplos do uso de IA para uma gestão mais sustentável de resíduos (Fang et al., 2023). Diferentes possibilidades de usos de Inteligência Artificial com redes neurais artificiais, regressão vetorial de suporte, regressão linear, árvores de decisão e algoritmos genéticos são fundamentais para desenvolver modelos de previsão de geração de resíduos. A transição para uma “economia circular com zero resíduos”. Técnicas de Machine learning são empregadas para identificar contaminação de materiais, tipos de resíduos, como metais, papel, plásticos e outros materiais, possibilitando que a reciclagem seja mais eficiente e precisa. Outra contribuição da IA, amparada em big data e aprendizado de máquina, está na possibilidade de reduzir possíveis riscos ambientais, economizar recursos e produzir resultados rápidos e precisos. O despejo ilegal é uma das questões mais críticas na gestão de resíduos. Tanto a rede neural convolucional multipercurso (algoritmo de aprendizado profundo) quanto algoritmos de rede residual podem auxiliar na identificação de comportamentos de despejo de resíduos por meio de imagens. Drones podem ser treinados com sistemas de IA para conseguir essas imagens e identificar efetivamente o lixo nas fotos. Vários sistemas de IA combinados têm melhor precisão do que um único modelo. Apostar na IA para a gestão de resíduos sólidos exige também compreender os mecanismos por trás dos modelos de IA, na combinação da IA com outras tecnologias e no uso de vários modelos (Fang et al., 2023). A convergência da IA e da Internet das Coisas (IoT) impulsionaram o surgimento de cidades ecológicas mais inteligentes, oferecendo soluções inovadoras para os desafios crescente que as cidades enfrentam pelas profundas transformações urbanas ocorridas nas últimas décadas, degradação ambiental, eventos extremos ligados às alterações climáticas, conservação da biodiversidade. Embora as tecnologias IA e a IoT tenham propiciado soluções para eficiência energética, transporte sustentável, ambientes de vida mais verdes, saudáveis e habitáveis, monitoramento ambiental, conservação dos recursos hídricos e para remodelar a paisagem urbana, também representam riscos ambientais, desafios éticos, sociais, legais e de governança. Para enfrentar esses desafios e criar ecossistemas
Desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA voltados à sustentabilidade ambiental 18 bem-sucedidos e inclusivos nas cidades, é necessária a adoção de abordagens mais abrangentes, multidimensionais centradas no ser humano, na tecnologia e nas instituições (Bibri, Krogstieb, Kaboli & Alahi, 2024). O imperativo sustentabilidade energética, cada vez mais, exige tomada de decisão em tempo real que seja orientada por sistemas de IA alimentados por Big Data, além de infraestrutura dinâmica e técnicas para gerir e utilizar fluxos de dados de milhões de dispositivos (IoT), requer também redes de alta velocidade para atender todas as partes interessadas, como produtores de energia, empresas, usuários finais, tomadores de decisão, fornecedores, intervenientes envolvidos na elaboração de normativas. Considerando o desafio da sustentabilidade energética, a IA está avançando para apoiar cidades e áreas expostas com desenvolvimento de algoritmos que possibilitem uma gestão energética mais eficiente e que abarque a interoperabilidade de redes inteligentes de energia, técnicas de machine learning para disponibilização e mensuração da análise comportamental do consumidor, abordagem de redes energéticas inteligentes, otimização do consumo de energia em tempo real com base em dados energéticos inteligentes (Chui, Lytras & Visvizi, 2018). Sistemas IA voltados para uma agricultura mais sustentável possibilitam identificar o momento ideal para diferentes colheitas (frutas, legumes, grãos) com objetivo de reduzir o desperdício; monitorar a saúde do solo e das culturas; aumentar o rendimento das culturas; irrigar as plantações com uso de robôs, sensores e drones; detectar ervas daninhas; identificar doenças, pragas e deficiências de nutrientes em culturas; reduzir o uso de agrotóxicos e fertilizantes com sistemas de pulverização inteligente; monitorar a saúde dos animais e classificar frutas. Enfim, a IA pode auxiliar os agricultores em todas as etapas, desde a preparação do solo até a entrega do produto, protegendo as culturas das alterações climáticas adversas (Mana et al., 2024). A aposta em IA e Big Data temganhado força na gestão da água na agricultura pela capacidade de realizar análise de grandes quantidades de dados e monitoramento em tempo real, o que otimiza as práticas de irrigação, oferece informações sobre os níveis de umidade do solo, padrões climáticos, programação de irrigação mais precisa e eficiente, identifica áreas que necessitam de mais água, bem
19 Haide Maria Hupffer, Adriano Sbaraine e Danielle Paula Martins como reduz o desperdício de água, o que é crucial em regiões com recursos hídricos limitados ou com padrões climáticos imprevisíveis. Não há como negar os inúmeros benefícios, contudo é preciso ficar atento que a criação de um ambiente agrícola com utilização de algoritmos de IA pode exacerbar desigualdades entre os que tem acesso à tecnologia e os que não tem acesso. Razão pela qual, políticas públicas de inclusão devem ser previstas para uma utilização ética, equitativa e responsável (Mana et al., 2024). O potencial da IA e das tecnologias associadas tem despertado o interesse do setor privado. Estimativas globais apontavam que quase 12 milhões de sensores de IoT estariam em uso em fazenda até o ano 2023. Em 2017 foram destinados 1,5 bilhão de dólares para o desenvolvimento de tecnologias agrícolas (agtech) No mercado florestal, os números também são promissores com a previsão de que poderá atingir 6,1 bilhões de dólares em 2024. Também é promissora a expectativa em relação ao mercado de IA para cidades inteligentes com dados para 2027 em torno de 460 bilhões de dólares (Galaz et al., 2021) A perspectiva para o mercado agrícola com tecnologias de IA para o ano de 2028 é de US$ 4,7 bilhões (Kesari, 2024). Outro conceito emergente e desenvolvido por Wang, Chen, Dong e Cheng (2024) é inteligência industrial aplicada à produção industrial e tomada de decisões operacionais O conceito integra o uso de IA e outras tecnologias avançadas como Big Data, Internet das Coisas (IoT), computação nas nuvens Os autores construiram indicadores que apontam que a inteligência industrial pode reduzir as emissões de carbono com o avanço da tecnologia verde e a otimização das estruturas de produção, sendo mais significativa a redução de emissões de carbono em empresas intensivas em mão de obra (Wang et al., 2024). Em relação ao combate às mudanças climáticas, a IA pode desempenhar um papel crucial para compreender aspectos complexos do sistema climático e contribuir para combater a crise climática com soluções mais ecológicas, sustentáveis e eficazes. Utilizando técnicas sofisticadas de otimização para processar enormes quantidades de dados multidimensionais não estruturados, a IA facilita a compreensão de conjuntos de dados climáticos, auxilia na previsão de tendências futuras, mudanças na temperatura média global,
Desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA voltados à sustentabilidade ambiental 20 eventos climáticos extremos, demanda de água, consequências das alterações no sistema climático, migração humana, dentre outros aspectos positivos. Por exigir um vasto conjunto de dados para responder à crise climática, a IA poderá auxiliar com o aporte de aplicações para mitigar os efeitos das mudanças climáticas e reduzir as emissões de CO2. Em 2018, a Microsoft/PwC estimou que a utilização de sistemas de IA para “aplicações ambientais poderia aumentar o PIB global entre 3,1 e 4,4%, ao mesmo tempo que reduziria as emissões de gases com efeito de estufa entre 1,5 e 4% até 2030, em comparação com um cenário de ‘business as usual’” (Cowls, Tsamados, Taddeo & Floridi, 2023). Na revisão da literatura, Cowls, Tsamados, Taddeo e Floridi (2023) citam outros exemplos de aplicações de IA para mitigar os efeitos das mudanças climáticas, destacando: sustentabilidade da cadeia de alimentos, pegada do carbono do concreto usado na construção civil, eficiência energética no transporte marítimo, poluição industrial na China, uso eficiente de energia em edifícios, possibilitar respostas eficazes para elaboração de políticas e regulação, monitorar a remoção de carbono da atmosfera usando o sequestro de carbono, auxiliar na definição de impostos sobre carbono e na otimização e no compartilhamento de transporte. Cada possibilidade poderia auxiliar na adoção de opções mais ecológicas para o enfrentamento da crise climática e terem um impacto considerável na sociedade e na economia global (Cowls et al., 2023). Contudo, os autores também mostram a preocupação com a pegada de carbono da própria IA, o que será examinado no item seguinte A adoção de estratégias de IA no desenvolvimento sustentável empresarial traz impactos ambientais positivos que vão desde a racionalização e eficiência na utilização de recursos naturais, controle de emissões de poluição (atmosférica e recursos hídricos), gestão sustentável da cadeia de abastecimento e identificação de potenciais riscos ambientais, riscos da cadeia de abastecimento e riscos de segurança (Chen, Chu & Zhao, 2024). Na sequência, abordar-se-á que a utilização da IA também pode exacerbar a crise ambiental e a crise climática. Depositar confiança demasiada nas soluções da IA pode ampliar os problemas ambientais e climáticos, o que passa a exigir o estabelecimento de limites às soluções tecnológicas.
21 Haide Maria Hupffer, Adriano Sbaraine e Danielle Paula Martins 3. PEGADA DE CARBONO DA INTELIGÊNCIA ARTIFICIAL E OS DESAFIOS PARA TORNÁ-LA MAIS SUSTENTÁVEL Como toda nova tecnologia, na utilização da IA observa-se também um duplo e paradoxal papel, ou seja, se de um lado a IA tem um grande potencial para contribuir enormemente para a resolução de problemas da humanidade e, consequentemente, para o equilíbrio ambiental e bem-estar das presentes e futuras gerações, por outro lado a ampliação do uso de IA pode exacerbar a degradação ambiental ou seu uso indevido pode colocar inúmeras vidas e o meio ambiente em risco (Gupta et al., 2021). No ano de 2021, globalmente foram emitidas 36 bilhões de toneladas de dióxido de carbono (CO2). Reduzir a pegada de carbono é essencial para mitigar os impactos devastadores das alterações no sistema climático. O setor de tecnologia produziu entre 2% e 3% das emissões globais de carbono no ano de 2021 e precisa assumir a sua quota-parte de responsabilidade em direção à neutralidade de carbono. As cadeias de abastecimento do setor de tecnologia são complexas e consomemmuita energia, o que em consequência gera um alto impacto no sistema climático. As cinco maiores empresas (Alphabet/Google, Amazon, Apple, Microsoft e Meta) consomem a mesma quantidade de energia que toda a população da Nova Zelândia. Por outro lado, como observado no itemanterior, as empresas de tecnologia têm um papel importante nas mudanças climáticas e recursos digitais para inovar em energia limpa. Muitas delas, a exemplo do Google e da Amazon, estão desenvolvendo ações para conciliar crescimento com sustentabilidade ambiental (Navarro, 2023). Galaz et al. (2021) realizam uma análise sobre ecossistemas críticos com alto impacto ambiental, como a agricultura e a silvicultura. Os autores observaram que além dos inúmeros benefícios que a IA pode propiciar, ela também pode apresentar riscos sistêmicos, compreendidos como riscos que evoluem a partir das diferentes interações de redes de sistemas complexos, ampliada pela conectividade entre humanos, máquinas e sistemas socioecológicos. O primeiro risco sistêmico observado por Galaz et al. (2021) está relacionado aos vieses algorítmicos e seus danos alocativos que podem derivar de inconsistências e preconceitos nos dados de treinamento, violações de segurança que podem corromper o sistema de captura de dados e tomada de decisões, indução a erro ou a preconceitos por
Desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA voltados à sustentabilidade ambiental 22 limitações na cobertura temporal, distribuição geográfica, preconceitos de contextos ecológicos, climáticos ou socioecológicos transferidos e usados em ambientes diferentes (Galaz et al., 2021). O segundo risco sistêmico apontado por Galaz et al. (2021) refere-se ao acesso, benefícios e impactos desiguais que ocorre em ambientes de restrição de recursos e acesso desigual às tecnologias de informação e comunicação. Nesse cenário de desigualdade, encontram-se os pequenos agricultores de países pobres ou em desenvolvimento que não têm acesso à agricultura baseada em dados. Além do acesso desigual às tecnologias com sistemas de IA para a agricultura, também há a questão da concentração de capital e o aprofundamento das desigualdades regionais. Como terceiro risco sistêmico, Galaz et al. (2021) apontam a possibilidade de ocorrer falhas em cascata e ataques aos sistemas. Para os autores, a “IA e as tecnologias associadas criam inúmeras novas interações complexas não apenas entre humanos e máquinas, e máquinas e máquinas, mas também cada vez mais com máquinas e ecossistemas, e com o sistema terrestre como um todo”. Riscos de cibersegurança e falhas internas podem surgir inesperadamente e atingir não apenas o sistema de produção de alimentos, mas também toda a cadeia de abastecimento alimentar, criando falhas no sistema como um todo (Galaz et al., 2021) que podem ser catastróficas. Grandes centros de computação são desenvolvidos para dar conta do expressivo aumento de volume de dados e da sofisticação e complexidade exigida para desenvolver sistemas de IA. Os centros de computação exigem um intenso uso de energia, o que gera uma grande pegada ecológica, resultando em questionamentos se a IA pode ser considerada parte da solução ou do problema da sustentabilidade (Kopka & Grashof, 2022). Supercomputadores são responsáveis por um volume expressivo de emissões de carbono e a IA tem a sua própria pegada de carbono que vai depender do tipo de IA, da quantidade de dados armazenados e processados e de como ela é treinada, Devido às elevadas exigências energéticas, modelos de processamento de linguagemnatural apresentamuma grande pegada de carbono e isso deve ser considerado para avaliar a sustentabilidade da IA. Modelos que utilizam aprendizagem profunda também utilizammais recursos energéticos, ampliando a pegada de carbono
23 Haide Maria Hupffer, Adriano Sbaraine e Danielle Paula Martins em relação a modelos que usam a aprendizagem de máquina (Gaur, Afaq, Arora & Khan, 2023). Colaboram com as inquietações Luccioni, Lacoste e Schmidt (2020) que elencam fatores commaior impacto nas emissões de carbono de sistemas de IA. Modelos de Machine Learning, treinados na nuvem utilizam a energia na qual estão conectados, o que possibilita que sejam escolhidas redes energéticas ambientalmente mais sustentáveis. Os autores ao analisarem os três principais provedores de nuvem (Google Cloud Platform, Microsoft Azure e Amazon Web Services) constataramque as emissões podem ter grandes variações entre regiões e mix energético da rede. Como exemplo citam que no Canadá, mais precisamente na região de Quebec que depende mais da hidroeletricidade, a pegada de carbono é de 20 gramas por kWh. Ao realizarem o estudo em Queensland, na Austrália, constataram que pegada de carbono pode chegar a 800 gramas de carbono por kWh, visto que neste local a rede de energia é dependente de combustíveis fósseis. Além do mix das redes de energia, também é preciso considerar que hardware de computação são cada vez mais complexos e exigem um tempo maior de treinamento, o que pode significar um aumento nas emissões de carbono (Luccioni et al., 2020). Nessa linha de pesquisa, Iglecias e Ferrari (2024, p. 104) pontuam que os principais impactos ambientais da IA “abrangem a energia computacional e dos hardwares usados para o treinamento, desenvolvimento e a execução dos algoritmos da IA”. Uma parte dos impactos ambientais da IA pode ser encontrado nas fases do ciclo de vida do modelo de Machine Learning, contudo quanto maior for a disponibilização de acesso à informação, mais recursos naturais são explorados, o que na perspectiva dos autores deve receber maior atenção dos pesquisadores. Como exemplo, Iglecias e Ferrari (2024, p. 103) citam que parte dos lucros gerados por petroleiras é obtido com o auxílio da cloud computing e com sistemas de IA que auxiliam “na descoberta, extração, distribuição, refinação e comercialização de petróleo e gás”. Dependendo do que a IA entrega ao mercado e o efeito em cascata das aplicações, pode-se exacerbar a pegada de carbono (Iglecias & Ferrari, 2024, p. 104-105). Nos Estados Unidos, aproximadamente 2% da eletricidade é utilizada por data centers onde a IA é treinada. Por área útil, os data centers consomem de 10 a 50 vezes mais energia do que um prédio
Desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA voltados à sustentabilidade ambiental 24 comercial de escritórios. A estimativa do gasto energético na implantação de dados de um sistema de IA é aproximadamente “10 vezes maior na primeira fase de treinamento – o que significa 500 toneladas de CO2, uma emissão comparável a dirigir um carro a gasolina por 1 milhão de quilômetros de distância ou realizar 500 voos entre Nova York e Frankfurt”. A IA, ao ser consumida pelo cidadão, a exemplo do ChatGPT, pode em uma única consulta gerar “uma pegada de carbono quatro vezes maior do que uma pesquisa no Google”, o que significa inferir que a tecnologia deve ser usada de forma mais responsável por todos (Insper Instituto de Ensino e Pesquisa [Insper], 2023). Os centros de dados da União Europeia consumiram 2,7% da energia e se o desenvolvimento continuará nos níveis atuais vão consumir 3,21%no ano de 2021 (European Commission, 2020a). Estimativas apontam que “mais de 500 milhões de tweets por dia de manhã sejam responsáveis por cerca de 13,39 toneladas métricas de CO2 emitidas a cada 24 horas”. Da mesma forma, fake news encaminhadas maciçamente e a distribuição de anúncios publicitários para celular ou notebook são responsáveis por ampliar as externalidades negativas relacionadas à quantidade de energia consumida. O aumento da capacidade da IA, em especial a generativa, amplia a pegada de carbono. Portanto, as grandes big techs, além do elevado consumo de energia, também geramdanos ambientais diretos e indiretos pela exploração de recursos naturais e pela extração de matérias-primas para o processo de fabricação de tecnologias de IA (Iglecias & Ferrari, 2024, p. 104-108). Em estudo realizado, comparando a utilização de robôs nos Estados Unidos, China e Japão, Zhang e Zhu (2023) constataram que robôs promovememissões de carbono nos três países, mostrando que quanto maior a densidade de robôs e a energia utilizada, maiores são as emissões de CO2. No Japão além da densidade de robôs ser maior do que nos Estados Unidos, essa densidade tem efeitos na emissão de dióxido de carbono. Ao compararema China e os EUA, os pesquisadores observamquemesmo a densidade de robôs sendomaior nos EUA, na China o impacto das emissões é maior em razão da diferença de estrutura energética entre os dois países. Na China, apesar dos avanços em relação à matriz energética, o país ainda é altamente dependente de carvão. Importante observar que dos três países analisados, a China tem o menor número de robôs por mil funcionários, contudo
25 Haide Maria Hupffer, Adriano Sbaraine e Danielle Paula Martins o consumo de carvão na China é superior ao dos EUA e ao do Japão, o que amplia a pegada de carbono da China. A energia que mais emite Gases de Efeito Estufa (GEE) é o carvão. Assim, a conclusão dos autores é que diferentes estruturas energéticas têm efeitos diferentes sobre a emissão de carbono (Zhang & Zhu, 2023). Para além de propiciar soluções ecológicas, sustentáveis e eficazes, a utilização da IA para combater os impactos da ação humana no sistema climático envolve riscos éticos e pode ampliar a pegada de carbono, o que passa a exigir uma governança ágil e eficaz (Cowls et al., 2023). Na revisão de literatura realizada por Cowls et al. (2023), estimam que o setor de TIC responde por 1,4% das emissões globais de GEE. Se a IA continuar no ritmo atual de desenvolvimento, previsões indicam que até o ano de 2030 as emissões globais de GEE podem chegar a 23% (Cowls et al., 2023). No ano 2020, a Comissão Europeia editou o relatório “Energy-efficient Cloud Computing Technologies and Policies for an Eco-friendly Cloud Market” que traz os resultados da pesquisa realizada sobre o crescimento do consumo de energia pela expansão exponencial da computação em nuvem e de biggest data centers. No estudo é apontado que um grande “data center chega a consumir mais de 500 milhões de kWh o que equivale ao consumo de uma cidade de 100.000 habitantes” (Comissão Europeia, 2020). Sob o mesmo tema, Cowls et al. (2023) relatam que na União Europeia, “onde a computação em nuvem com eficiência energética se tornou uma questão primordial na agenda política” as estimativas apontam que até o ano de 2030 poderá haver um aumento de 28% no consumo de energia dos centros de dados. Os autores indicam que para avançar no desenvolvimento de metodologias e ter dados fidedignos sobre a pegada de carbono da IA deve ser exigido que as empresas disponibilizem de forma ética e transparente dados sobre o consumo de energia, emissões de carbono e utilização de recursos naturais (Cowls et al., 2023). Comoobservado, a IAéuma ferramentaque tempotencial para mitigar os impactos ambientais como também levanta sérias preocupações pelo consumo elevado de energia de diferentes fontes, o que resulta em emissões significativas de carbono. Na sequência, buscar- -se elencar alguns desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA ecologicamente sustentáveis.
Desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA voltados à sustentabilidade ambiental 26 4. DESAFIOS ÉTICOS, JURÍDICOS E DE GOVERNANÇA PARA O DESENVOLVIMENTO DE SISTEMAS DE IA VOLTADOS À SUSTENTABILIDADE AMBIENTAL A IA traz inúmeros benefícios para combater eficazmente a crise climática global, mitigar danos ambientais e aumentar a produtividade, mas apresenta riscos intrínsecos. Existe o risco da IA agravar a disponibilidade energética e a degradação de recursos naturais, concentração dos lucros nas mãos de grandes empresas de tecnologia e distribuição dos riscos às presentes e futuras gerações de forma desigual. Esses desafios destacam a importância de uma análise criteriosa dos princípios éticos para uma IA sustentável e de uma governança adequada para equilibrar os benefícios da Inteligência Artificial (IA) com seus potenciais riscos, tendo sempre presente que o desenvolvimento da tecnologia deve estar alicerçado nos direitos humanos, na não discriminação e no benefício amplo da sociedade. Cidades sustentáveis, problemas causados pela emissão de carbono, mudanças climáticas, agricultura de precisão, previsão de desastres são oportunidades que a IA oferece para melhorar a vida privada e pública, sendo que tais oportunidades também estão atreladas a desafios éticos significativos, como pontuamFloridi e Taddeo (2016). Para os autores, a redução gradual de envolvimento humano para analisar cada vez mais dados, moldar escolhas e tomar decisões, bem como a crescente dependência de algoritmos e de dados, colocam questões urgentes de equidade, responsabilidade, respeito aos direitos humanos. São desafios que devem ser enfrentados. Encontrar o equilíbrio não é tarefa fácil e simples (Floridi & Taddeo, 2016). Mas ficar aguardando os riscos se confirmareme não avançar com princípios éticos pode trazer consequências irreparáveis e provocar impactos negativos e rejeição social. Princípios éticos atuam como orientadores para enfrentar os desafios colocados pelas amplas e profundas transformações tecnológicas. Cada tecnologia e sistema de IA pode conduzir a graves problemas éticos pela complexidade e autonomia dada aos algoritmos, especialmente no caso de aplicações de aprendizagem de máquina. Desafios éticos cruciais também incluem a responsabilidade moral de programadores, cien-
27 Haide Maria Hupffer, Adriano Sbaraine e Danielle Paula Martins tistas em relação as consequências imprevistas e indesejadas, bem como oportunidades perdidas (Floridi & Taddeo, 2016). Decisores políticos e cientistas concordam sobre a importância da adoção eticamente responsável de sistemas de IA, algoritmos e Big Data com destaque para que seu desenvolvimento seja centrado no ser humano, que seja seguro, confiável e direcionado ao bem comum. Uma IA confiável e benéfica pressupõe que as premissas éticas sejam consideradas em todo o ciclo de desenvolvimento, implantação e destinação final. Como observado anteriormente, a ampliação da utilização da IA para a sustentabilidade aumenta o volume de dados e, consequentemente, passa a exigir esforços para minimizar o uso de recursos energéticos não sustentáveis e de infraestrutura. Contudo, não se pode negligenciar e atrasar pesquisas para incorporar a IA em estudos de desenvolvimento sustentável, o que significa dizer que a IA pode tanto ser uma ferramenta fundamental para a crise ambiental, como tambémpode ampliar a utilização de recursos naturais e a degradação ambiental. Não há respostas seguras para questões relacionadas a potenciais riscos, oportunidades e barreiras consideradas significativas à sustentabilidade e aos efeitos da IA na sustentabilidade (Kar, Choudhary & Singh, 2022). Na sequência são apresentadas algumas iniciativas importantes que resultaram na elaboração de princípios éticos para a IA. A Conferência de Asilomar, realizada em Asilomar no ano de 2017, reuniu líderes da academia e da indústria para discutir as oportunidades e ameaças criadas pela IA e o papel das lideranças no seu desenvolvimento responsável, sustentável e ético. Os resultados de extensos debates, análises de relatórios e resultados de pesquisas e entrevistas extensivas com os participantes foram reunidos em documento que resultaram em 23 princípios. A construção de cada princípio foi fruto de um processo democrático que contou com o apoio de pelo menos 90% dos participantes. O documento com os 23 princípios foi assinado por pesquisadores, professores, empresários e diretores de empresas que participaram da Conferência (Future of Life Institute, 2017a). Os 23 princípios resultantes da Conferência de Asilomar estão reunidos em torno de três grandes temas: i] questões relacionadas à pesquisa; ii] ética e valores; iii] questões de longo prazo. O tema questões relacionadas à pesquisa agrega cinco princípios, a saber:
Desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA voltados à sustentabilidade ambiental 28 i] objetivo da pesquisa: criar inteligência benéfica; ii] financiamento de pesquisas: investimentos devem ser acompanhados para garantir a utilização benéfica, também em questões espinhosas da ciência da computação, direito, economia, ética e sociologia. Em relação às questões jurídicas, as questões postas no princípio estão assim delineadas: “como podemos atualizar os nossos sistemas jurídicos para seremmais justos e eficientes, para acompanhar o ritmo da IA e para gerir os riscos associados à IA?” e “com que conjunto de valores a IA deverá estar alinhada e que estatuto jurídico e ético deverá ter?”; iii] parceria ciência-política, ou seja, parceria saudável e construtiva entre pesquisadores de IA e decisores políticos; iv] desenvolvimento de uma cultura de cooperação, confiança e transparência entre os pesquisadores e criadores de IA; v] cooperação ativa entre equipes para evitar desvios nos padrões de segurança (Future of Life Institute, 2017b). O segundo tema que congrega os princípios da Conferência de Asilomar está centrado na ética e em valores, congregando 13 princípios: i] segurança; ii] transparência quando ocorrerem falhas/ danos; iii] transparência judicial, explicação satisfatória e auditável por uma autoridade humana competente; iv] responsabilidade (projetistas e construtores); v] alinhamento com valores humanos em todo o ciclo de criação e operação; vi] centrada em valores humanos e compatíveis com os ideais de dignidade, liberdades e diversidade cultural; vii] privacidade pessoal; viii] liberdade e privacidade; ix] benefícios compartilhados ao maior número possível de pessoas; x] a “prosperidade econômica criada pela IA deve ser amplamente compartilhada para beneficiar toda a humanidade”; xi] controle humano; xii] não subversão de processos sociais e cívicos dos quais depende a saúde da sociedade; xiii] evitar uma corrida armamentista de IA (Future of Life Institute, 2017b). Em relação aos princípios que estão agregados em torno do terceiro tema – questões de longo prazo –, foram desenvolvidos cinco princípios: i] cuidado coma capacidade da IA, ou seja, quando não há consenso devem ser evitadas “suposições fortes sobre os limites máximos das futuras capacidades de IA”; ii] importância, IAs mais avançadas podem “representar uma mudança profunda na história da vida na Terra e devem ser planejadas e geridas com cuidado e recursos proporcionais”; iii] riscos, deve ser dada muita atenção aos
RkJQdWJsaXNoZXIy MjEzNzYz