Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

301 Rafael Cemin Petry e Juliane Altmann Berwig ces Research Council (Conselho de Pesquisa de Engenharia e Ciências Físicas) (EPSRC), propuseram “princípios de robótica”, mas não existe um conjunto abrangente, ou global, de normas; • IA e governança robótica: a falta de conhecimentos gerais sobre pesquisa em IA e aplicativos cria umdesafio de previsão para as autoridades políticas. Além disso, é difícil determinar quais instituições devem tomar decisões sobre as políticas de lA. O reconhecimento desses fatores cria espaços para procedimentos inovadores de governança e a potencial criação de novos tipos de comissões, agências ou grupos consultivos, cuja autoridade deverá ainda ser cimentada; • Resolução de conflitos: atualmente, não existem estruturas estabelecidas ou melhores práticas para resolver os conflitos associados aos sistemas e aplicações da IA. Várias dificuldades relacionadas à antecipação dos potenciais conflitos complicam o desenvolvimento dessas estruturas. Por exemplo, as pesquisas em IA não são regulamentadas – mesmo que os produtos que utilizam os aplicativos de IA o sejam – pondo, assim, o ônus regulatório no nível dos produtos. O autor ainda segue mencionando que existem 10 questões que todo mundo deve saber sobre a IA: i) A IA muda ao longo do tempo; ii) A IA geral não existe, mas a IA estreita sim (Google, Siri, outras); iii) IA, robôs e seres humanos funcionam melhor quando trabalham juntos; iv) Os sistema de IA precisam se orientação humana e o sucesso reside na IA ser treinada para observar pessoas e alinhar os atuais sistema aos objetivos humanos; v) Ainda não se compreende como os sistemas de redes neurais artificiais funcionam, ou seja, alguns ainda são “caixas pretas”; vi) os recursos de IA são abertos e estão disponíveis; vii) para o uso da IA os dados dos indivíduos devem estar em ordem; viii) Até mesmos os sistemas mais inteligentes podem trazer respostas imprecisas ou preconceituosas; ix) A IA e robótica irão transformar as tarefas em vez de tornar os seres humanos obsoletos e x) a forma como os sistemas de IA são aplicados pelas organizações para os problemas da vida real é o principal fator de seu impacto, ou seja, na medida em que os sistemas forem se tor-

RkJQdWJsaXNoZXIy MjEzNzYz