57 Pablo Rafael Banchio anunciantes pueden utilizarlos para segmentar a las audiencias basándose en características demográficas, como la edad, el género o la raza. Esto puede llevar a la exclusión de ciertos grupos de anuncios específicos, lo que puede ser considerado discriminatorio. Cuando los algoritmos están dise ados para maximizar clics y conversiones, si ciertos grupos son más propensos a interactuar con determinados tipos de anuncios, el algoritmo puede favorecer desproporcionadamente esos grupos, excluyendo a otros. Un estudio de la Universidad de Harvard encontró que los anuncios de trabajos de alta remuneración se mostraban con más frecuencia a hombres que a mujeres. Facebook ha sido criticado por permitir a los anunciantes excluir a ciertos grupos demográficos de ver anuncios de vivienda. Esta discriminación algorítmica en la publicidad puede perpetuar desigualdades económicas y laborales. 5. DESAFÍOS Y PROBLEMÁTICAS 5.1 Sesgo en los datos El sesgo en los datos es una de las principales fuentes de discriminación algorítmica. Este fenómeno se origina cuando los conjuntos de datos utilizados para entrenar algoritmos reflejan prejuicios históricos, desigualdades estructurales o no son representativos de la población objetivo. Esto puede deberse a diversos factores, como la selección distorsionada de los datos, la falta de diversidad en las fuentes de datos o la presencia de errores o incoherencias en los datos lo que puede resultar en decisiones que perpetúan o amplifican dichas desigualdades. Por ejemplo, si los datos de contratación histórica muestran una preferencia por candidatos masculinos, un algoritmo entrenado con estos datos tenderá a discriminar contra las mujeres. O si un algoritmo utilizado para seleccionar candidatos a un puesto de trabajo podría favorecer a los candidatos con nombres que suenen “blancos” sobre los que tienen nombres que suenen “hispanos”, si los datos de entrenamiento del algoritmo se basan en un conjunto de currículos que no son representativos de la fuerza laboral real.
RkJQdWJsaXNoZXIy MjEzNzYz