Inteligência artificial e algoritmos

Convergencia ética y derechos digitales: fundamentos metodológicos para la gobernanza tecnológica 98 5. ANÁLISIS DE CASOS ÉTICOS Estas cuatro teorías éticas, tanto el utilitarismo, la deontología, la ética de la virtud como la ética convergente, ofrecen criterios valiosos para analizar casos concretos en el entorno digital. Uno de los más debatidos es el de la discriminación algorítmica (Banchio, 2024), ya que los sistemas de inteligencia artificial, entrenados con grandes volúmenes de datos históricos, pueden replicar sesgos existentes en la sociedad, afectando de manera injusta a determinados grupos. El caso del algoritmo COMPAS, utilizado en Estados Unidos para predecir la reincidencia criminal, evidenció cómo los modelos podían asignar mayor riesgo a personas afroamericanas, incluso en ausencia de antecedentes más graves. Desde una lógica utilitarista, la eficiencia del sistema puede parecer aceptable, pero desde una perspectiva deontológica, la igualdad ante la ley y la no discriminación son principios inviolables. Este caso condujo a debates legislativos y éticos sobre la necesidad de transparencia, revisión humana y evaluación de impacto en los sistemas algorítmicos, elementos ahora presentes en la normativa europea en construcción. Otro caso relevante fue el uso de aplicaciones de rastreo digital durante la pandemia de COVID-19. Estas herramientas, implementadas en varios países para rastrear contactos y contener contagios, ofrecían beneficios evidentes en términos de salud pública, pero planteaban interrogantes éticos sobre la proporcionalidad, la voluntariedad y la duración del tratamiento de datos personales. La Agencia Europea de Protección de Datos (EDPB) emitió recomendaciones claras para asegurar el respeto de la privacidad, exigiendo transparencia (European Data Protection Board, 2020), minimización de datos, medidas de seguridad y eliminación posterior de la información. Este caso ilustra cómo una perspectiva utilitarista puede ser conciliada con principios deontológicos mediante el diseño ético y regulado de soluciones tecnológicas. 6. PRIVACIDAD, LIBERTAD DE EXPRESIÓN Y ACCESO A LA INFORMACIÓN También merece atención en este trabajo el problema de la moderación de contenidos y la libertad de expresión, que ya trata-

RkJQdWJsaXNoZXIy MjEzNzYz