91 José Julio Fernández Rodríguez También podría argumentarse, para robustecer el derecho que comentamos en este subapartado, que la conexión del mismo con el análisis de riesgo que se debe hacer en un tratamiento de datos y con el principio de responsabilidad proactiva podría llevar a conocer los elementos del algoritmo empleado en el caso de que se trate. No obstante, esa consecuencia semeja más bien eventual, nunca necesaria en todo caso, que no vemos que haya servido en la práctica para desvelar algoritmos. Al margen de lo dicho existe otro elemento de importancia que provoca que la normativa de protección de datos sea insuficiente frente a la discriminación algorítmica. Nos referimos a que se puede producir tal discriminación sin emplear datos personales. Ello tal vez ocurra en supuestos ordinarios de este tipo de actividad, como cuando se establecen patrones probabilísticos a través de inferencias y valores de aproximación en procesamientos masivos de datos no personales (por ejemplo, emplear la correlación entre el código postal y conductas de impagos o hábitos de consumo). 4.10 La falta de capacidad del poder público El poder público debe ser el principal agente que se enfrente y reaccione ante la discriminación algorítmica. Su defensa del interés general tiene que mostrarse como el principal elemento de sus actuaciones. En especial, la administración pública debería ser la más apta para responder con eficacia y agilidad a la problemática que estamos contemplando, sobre todo cuando es ella la que emplea sistemas de inteligencia artificial cada vez con mayor intensidad e incidencia. ¿Se preocupa realmente para que su aplicación se ajuste con rectitud al Estado democrático de Derecho? La esencia del poder en un Estado democrático cualifica la relación entre la ciudadanía y ese poder, que orienta su labor hacia tal ciudadanía (sobre todo desde el asentamiento en el pasado del Estado Social). Sin embargo, es habitual que las administraciones públicas tengan aspectos negativos que suponen una dificultad para afrontar los problemas de los algoritmos. El principal escollo es la falta de capacidades técnicas, organizativas y de recursos humanos para abordar la problemática de los
RkJQdWJsaXNoZXIy MjEzNzYz