407 Anais do XXI Seminário Internacional Nanotecnologias, Sociedade e Meio Ambiente desafios jurídicos éticos e sociais para a “grande transição sustentável” (XXI SEMINANOSOMA) AS IMPLICAÇÕES JURÍDICAS DO USO DE CHATBOTS AUTÔNOMOS NO CONTEXTO DA LGPD E DO AI ACT Gustavo Stadtlander Magnus Chaves Barcellos RESUMO: Introdução: O crescente uso de chatbots autônomos no atendimen- to ao cliente e na tomada de decisões em startups e grandes empre- sas apresenta desafios jurídicos significativos, especialmente no que se refere à Lei Geral de Proteção de Dados (LGPD) no Brasil e ao AI Act da União Europeia. A opacidade dos processos decisórios da IA e a falta de supervisão humana sobre as decisões automatizadas suscitam dúvidas sobre a responsabilidade civil das empresas que utilizam esses sistemas. Ao automatizar a coleta e o processamento de dados pessoais, os chatbots devem seguir princípios legais de transparência, segurança e necessidade, conforme estabelecido pela LGPD. Casos como o Moffatt v. Air Canada ilustram os riscos associados à falta de controle nas decisões de IA, enquanto o incidente do Chatbot Tay da Microsoft demonstra os problemas causados por falhas de supervisão em sistemas de aprendizado automatizado. A LGPD garante aos titu- lares de dados o direito à revisão humana de decisões automatizadas, reforçando a necessidade de práticas de governança para mitigar os riscos decorrentes de decisões autônomas. Por outro lado, o AI Act da União Europeia classifica chatbots autônomos como sistemas de risco médio a alto, impondo diretrizes rigorosas sobre a transparência e a auditoria desses sistemas. Para startups, a adequação à LGPD é ainda mais desafiadora, uma vez que a escassez de recursos muitas vezes limita a implementação de sistemas robustos de conformidade. No en- tanto, as empresas que adotam práticas eficazes de compliance podem garantir que a inovação e a conformidade regulatória andem juntas, evitando riscos jurídicos e promovendo uma utilização responsável da IA. Método: Esta investigação utiliza uma abordagem qualitativa, analisando jurisprudência relevante e estudos de casos empíricos sobre a aplicação da LGPD em startups. Também é realizada uma análise comparativa entre a LGPD e o AI Act da União Europeia, com foco em como essas regulamentações impactam o uso de chatbots autônomos em diferentes jurisdições. A pesquisa inclui uma revisão de literatura sobre responsabilidade civil e proteção de da- dos, além da utilização de estudos práticos em conformidade com os padrões de segurança de dados. Resultado: Os resultados indi- cam que a transparência e a supervisão contínua são essenciais para
RkJQdWJsaXNoZXIy MjEzNzYz