Discriminación algorítmica: un análisis jurídico de los desafíos y oportunidades en la era digital 56 institucion penitenciaria. En este caso, se pide a la IA que prevea la probabilidad de reincidencia del delito cometido por un condenado a partir de categorias prefijadas (tipo de delito, comportamiento en prision, evaluacion psicologica y otros) lo que permite a la IA tener acceso a categorias de datos relacionados con la vida privada de la persona detenida (origen etnico, nivel educativo, linea de credito, etc.). En el sistema judicial, los algoritmos de predicción de riesgo pueden sesgarse contraminorías si se basan en datos de arrestos que no reflejan de manera justa la realidad de la criminalidad. El uso de tal metodologia -que a veces corre el riesgo de delegar de facto en una maquina la ultima palabra sobre el destino de una persona- puede llevar implicitamente la referencia a los prejuicios inherentes a las categorias de datos utilizados por la IA. El ser clasificado enun cierto grupo etnico o,mas prosaicamente, el haber cometido hace años una pequeña infraccion -v.g. no haber pagado una multa por estacionara en zona prohibida-, influira, de hecho, en la decision acerca de la concesion de la prision domiciliaria. 4.4 Seguros y servicios financieros En el sector financiero, los algoritmos se utilizan para evaluar solicitudes de crédito y fijar tasas de interés. Sin embargo, pueden discriminar si están basados en datos históricos que reflejan discriminación económica. Un ejemplo es el algoritmo utilizado por una empresa de préstamos en línea que cobraba tasas de interés más altas a minorías, a pesar de tener perfiles crediticios similares a los de los solicitantes blancos. También los algoritmos utilizados para determinar primas de seguros y aprobar préstamos han sido cuestionados por su potencial discriminatorio. Casos como el uso de datos de redes sociales para evaluar riesgos han resaltado la necesidad de regulaciones más estrictas. 4.5 Publicidad Los algoritmos de publicidad on line pueden discriminar al mostrar anuncios de manera desproporcionada a ciertos grupos. Los
RkJQdWJsaXNoZXIy MjEzNzYz