Inteligência Artificial na justiça criminal: entre a inovação tecnológica e os desafios éticos e jurídicos na proteção dos Direitos Humanos 60 Como observado, ao integrar-se rapidamente em todas as áreas e na vida diária da sociedade, a IA está remodelando a forma de interagir entre humanos e humanos e entre humanos e máquina, de trabalhar, perceber o mundo e ter experiências. É difícil pensar em uma atividade humana que não esteja sendo impactada pela ascensão exponencial da IA, o que levanta sérias preocupações sobre questões sociais, discriminação, convulsão social, vieses algorítmicos, privacidade, responsabilização e tomada de decisões éticas. Se continuar a progredir em ritmo alucinante, a IA pode evoluir para ampliar a tomada de decisões autônomas em aspectos que podem impactar o ser humano e o meio ambiente de forma irreversível, especialmente, nas áreas de segurança nacional e defesa. O ritmo da evolução da IA não tem paralelo na história da ciência, por isso é urgente refletir sobre a progressão tecnológica, potenciais futuros, dilemas éticos e morais, dilemas jurídicos e ambientais. É provável que não foram calculados os efeitos profundos do avanço exponencial da IA (Garrett, 2024). Nos Estados Unidos, um cliente denunciou que seu terapeuta utilizava modelos de linguagem de grande porte (LLM) nas sessões de psicoterapia sem sua autorização. O cliente só descobriu quando em uma das sessões a conexão ficou instável e o terapeuta compartilhou inadvertidamente a tela do ChatGPT. O psicoterapeuta pegava o que o cliente compartilhava na sessão, colocava no ChatGPT e depois solicitava para resumir e selecionar respostas. Como a sessão ficou aberta na tela, o cliente ainda percebeu que ChatGPT elaborava respostas, antecipando-se ao terapeuta. Neste caso, observa-se uma clara violação ética e legal com riscos significativos à privacidade e violações ao direito fundamental à proteção de dados pessoais sensíveis, riscos relacionados à transparência, à intimidade e danos psicológicos resultantes da exposição de segredos profundos e pensamentos íntimos sem a autorização do paciente. Além da dificuldade de remover os dados, pois eles passam a alimentar o banco de dados da IA generativa. Esse é um exemplo de que para usar a IA várias profissões, a exemplo da psicologia e psiquiatria, devem divulgar o uso de IA aos pacientes e obter consentimento (Clarke, 2025).
RkJQdWJsaXNoZXIy MjEzNzYz