Discriminação algorítmica, Inteligência artificial, Hipervigilância digital e tomada de decisão automatizada

201 Gabriel Cemin Petry, João Sérgio dos Santos Soares Pereira e Karin Regina Rick Rosa à privacidade e implementação de medidas de segurança ou mecanismos de prevenção ou eliminação desses riscos. O art. 44 da LGPD considera irregular o tratamento de dados quando não for observada a legislação ou quando não atender à expectativa de segurança do titular: Art. 44. O tratamento de dados pessoais será irregular quando deixar de observar a legislação ou quando não fornecer a segurança que o titular dele pode esperar, consideradas as circunstâncias relevantes, entre as quais: I – o modo pelo qual é realizado; II – o resultado e os riscos que razoavelmente dele se esperam; III – as técnicas de tratamento de dados pessoais disponíveis à época em que foi realizado. Outro ponto é a adoção do modelo de privacidade por design. A privacidade, protegida pela LGPD, é direito fundamental, previsto na Constituição Federal e citada na Declaração Universal dos Direitos Humanos. Atualmente a privacidade é o cerne das duas metodologias que norteiam a proteção de dados, conhecidas como “Privacy by design” e “Privacy by default”. O termo “privacy by design” se refere à metodologia que busca proteger a privacidade do usuário desde a concepção do sistema de tecnologia da informação, de maneira que a proteção da privacidade é o ponto de partida ou premissa para o desenvolvimento de qualquer projeto. Por “design” implica incorporar considerações de privacidade desde o início do desenvolvimento de produtos e serviços, garantindo que a proteção de dados seja parte constituinte da inovação. A privacidade desde a concepção se desenvolve em seis princípios: 1. Equidade (Fairness): Os sistemas de IA devem ser desenvolvidos e utilizados de forma justa e equitativa, evitando preconceitos e discriminações injustas. Isso envolve garantir a distribuição equitativa de benefícios e custos, bem como a igualdade de oportunidades no acesso a esses sistemas (Marrafon, Coutinho, 2020). 2. Confiabilidade e Segurança (Reliability & Safety): A IA deve ser segura, robusta e confiável, protegendo a dignidade,

RkJQdWJsaXNoZXIy MjEzNzYz