59 Pablo Rafael Banchio La falta de transparencia y explicabilidad dificulta la identificación y corrección de sesgos, permitiendo que la discriminación pase desapercibida. 5.3 Responsabilidad y rendición de cuentas El desarrollo tecnologico y del mundo digital involucra a enormes intereses economicos. No se puede, por tanto, pasar por alto la fuerza con la que estos intereses tienden a condicionar la conducta de las empresas. Actuar por la responsabilidad de los inversores y de los gestores, para que el bien de la sociedad no se sacrifique en aras del beneficio, es, por tanto, un compromiso que hay que fomentar. Determinar quién es responsable de la discriminación algorítmica es un desafío. Los desarrolladores de algoritmos, las empresas que los utilizan y los reguladores deben compartir la responsabilidad de garantizar que los sistemas sean justos y no discriminatorios. La falta de claridad en las responsabilidades puede dificultar la rendición de cuentas y la implementación de medidas correctivas. En el ambito socioeconomico, los usuarios a menudo quedan reducidos a “consumidores”, sometidos a intereses privados concentrados en manos de unos pocos. A partir de los rastros digitales diseminados en Internet, los algoritmos sacan datos que consienten controlar nuestros habitos mentales y relacionales para fines comerciales o politicos, a menudo sin que lo sepamos. Esta asimetria, por la que unos pocos saben todo de nosotros, mientras que nosotros no sabemos nada de ellos, adormece el pensamiento critico y el ejercicio consciente de la libertad. Las desigualdades se amplifican desmesuradamente y el conocimiento y la riqueza se acumulan en pocas manos, con graves riesgos para las sociedades democraticas. El vertiginoso desarrollo del mundo digital tiene como protagonistas a las grandes empresas del sector, que cruzan facilmente las fronteras entre Estados, se mueven rapidamente en el frente mas avanzado del desarrollo tecnologico y han acumulado considerables recursos economicos. Ya es evidente que no pueden considerarse completamente ajenas al uso de las herramientas que ponen en manos de sus clientes.
RkJQdWJsaXNoZXIy MjEzNzYz