Problemas jurídicos para controlar la discriminación algorítmica 90 4.9 Los límites del derecho a no ser objeto de decisiones individuales automatizadas. La normativa europea de protección de datos establece el derecho a no ser objeto de decisiones individuales automatizadas, un derecho de sumo interés en la actualidad ante el imparable crecimiento de las tecnologías disruptivas. Así el art. 22.1 del Reglamento UE 2016/679, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales, establece que “todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar”10. De este modo, en principio puede pensarse que esta es una vía útil para desactivar la opacidad de algoritmos, tanto del sector público como del privado, si bien no se diseó para esta cuestión. Sin embargo, este derecho presenta una serie de limitaciones que reducen su operatividad y, por ende, impiden que se convierta en un baluarte frente a la discriminación algorítmica. En primer lugar, porque dicho derecho sólo se refiere a decisiones basadas únicamente en el tratamiento automatizado, lo que excluye decisiones no adoptadas en exclusiva por algoritmos o programas. Además, en el art. 22.2 de este Reglamento europeo de protección de datos se prevé que no se aplica ese derecho cuando la decisión sea necesaria para la ejecución de un contrato entre el interesado y un responsable de tratamiento, haya consentimiento explícito del interesado11, o está autorizada por el Derecho de la Unión o de los Estados miembros. Esto último es particularmente amplio pues con una habilitación genérica en los ordenamientos nacionales sería suficiente para eludir su aplicación. 10 La elaboración de perfiles abarca una larga diversidad de supuestos de tratamiento de datos que evalúan aspectos personales, “en particular para analizar o predecir aspectos relacionados con el rendimiento en el trabajo, la situación económica, la salud, las preferencias o intereses personales, la fiabilidad o el comportamiento, la situación o los movimientos del interesado, en la medida en que produzca efectos jurídicos en él o le afecte significativamente de modo similar” (considerando 71 del citado Reglamento UE 2016/679). 11 En estos dos supuestos (contrato y consentimiento) el responsable de tratamiento debe garantizar el derecho del interesado a obtener la intervención humana, expresar su punto de vista e impugnar la decisión (art. 22.3 Reglamento UE 2016/679).
RkJQdWJsaXNoZXIy MjEzNzYz