45 Pablo Rafael Banchio La discriminación directa ocurre cuando un algoritmo trata a un individuo o grupo de personas de manera menos favorable que a otro individuo o grupo similar debido a una característica protegida, como la raza, el género, la religión o la nacionalidad. A su vez, la discriminación indirecta se produce cuando una política o práctica aparentemente neutral tiene un impacto desproporcionadamente negativo en un grupo protegido. Por ejemplo, un algoritmo que utiliza criterios de crédito para determinar la elegibilidad para un préstamo puede discriminar indirectamente a las personas de color o inmigrantes, que tienen menos probabilidades de tener un buen historial crediticio. También puede producirse lo que algunos autores llaman Discriminación asociativa cuando un individuo o grupo es discriminado debido a su asociación con otro individuo o grupo que está protegido por la ley. Por ejemplo, un algoritmo que utiliza el código postal para determinar el precio de un seguro de automóvil puede discriminar indirectamente a las personas que viven en barrios de bajos ingresos, que a menudo están asociados con minorías raciales o étnicas. 2.5 Causas de la discriminación algorítmica La discriminación algorítmica no es intencional en el sentido de que no es el resultado de una decisión consciente por parte de los desarrolladores de algoritmos de da ar a ciertos grupos. Sin embargo, hay una serie de factores que pueden contribuir a la discriminación algorítmica, incluyendo: a) Sesgos en los datos: los algoritmos se entrenan con datos históricos, que pueden reflejar los sesgos y prejuicios existentes en la sociedad. Si los datos utilizados para entrenar el algoritmo contienen prejuicios históricos o reflejan desigualdades existentes, el algoritmo puede perpetuar estos sesgos. Por ejemplo, si un conjunto de datos utilizado para entrenar un algoritmo de contratación contiene más currículums de hombres que de mujeres, el algoritmo puede aprender a asociar los nombres masculinos con mayor competencia. Por ello, eliminar por
RkJQdWJsaXNoZXIy MjEzNzYz