Contra la opacidad de los algoritmos

La palabra “algoritmo” se está convirtiendo en el vocablo de moda, y no solo esta, también sus derivados. Se escribe sobre la cultura algorítmica, el amor a los algoritmos, la ética algorítmica, el poder de los algoritmos, la sociedad algorítmica e, incluso, la gobernanza algorítmica. Los algoritmos están transformando las ciencias, la industria y la sociedad, alteran las nociones de trabajo, de propiedad, de gobierno, de vida privada y de humanidad. Por un lado, los algoritmos nos facilitan la vida, pero, por otro, nos plantean muchas dudas y grandes preguntas. Los algoritmos vehiculan todo tipo de miedos, pero es bueno que los propios programadores nos ayuden a extirparlos del cuerpo social.
Estamos completamente rodeados por algoritmos. Algunos reaccionan a los mercados financieros, otros actúan en el terreno de las aseguradoras, existen en el campo de los medios de comunicación social, otros trabajan en el mundo de la seguridad. Los hay que nos guían en nuestras elecciones de consumo y los hay que pilotan las redes sociales. El algoritmo ha entrado en la vida de la sociedad, pero lo ha hecho porque, en cierta medida, se le ha confiado cada vez más las operaciones esenciales. Decidir la orientación de un estudiante, decidir si recibirá o no una ayuda, prever si un detenido tiene posibilidades de reincidir, anticipar el resultado de un proceso, entre otros, son acciones que hacen cotidianamente los algoritmos, pero eso no significa que lo hagan respetando cierto número de principios éticos, como el respeto a los derechos individuales, la equidad y la no discriminación.
Por ahora, los algoritmos plantean problemas muy espinosos, ya que están envueltos en un aura de objetividad científica, como si una decisión tomada a partir de sus consejos fuera indiscutible porque, supuestamente, es puramente mecánica y está desprovista de todo tipo de prejuicios. Se parte del falso supuesto que son neutros. Visto así, es fácil llegar a la conclusión de que es mejor someterse al veredicto de un algoritmo más que a un juez humano, susceptible de tomar decisiones que varían en el transcurso de la jornada por los efectos de la fatiga y estado de ánimo.
El algoritmo de funcionamiento matemático se presenta, pues, como una solución para paliar la falibilidad humana. Y, sin embargo, conviene interrogarse sobre esa pretendida objetividad. Como dice Dominique Cardon, los algoritmos no son neutros. Refuerzan una visión de la sociedad que les ha sido dada por parte de quienes los programan o bien por parte de quienes pagan estos programas. Los artefactos técnicos contienen los principios, intereses y valores de sus diseñadores. La puesta en marcha operativa de estos valores pasa por decisiones técnicas, variables estadísticas y métodos de cálculo.

Transparencia algorítmica

En la medida en que los algoritmos clasifican, operan, categorizan o recomiendan, entre otras operaciones, entran, de lleno, en el campo de la ética. Por eso, es imprescindible reflexionar sobre cómo lo hacen, cómo llegan a las conclusiones que llegan, pero esto solo es posible si se disuelve su opacidad. Frente a esta opacidad, es necesario reclamar transparencia y poner más de manifiesto que nunca la necesidad de abrir las cajas negras. La razón de esa petición es evidente. En una sociedad democrática, conviene que decidamos públicamente con qué criterios y con qué principios deseamos que funcionen los algoritmos, y hasta qué punto queremos delegarles nuestras decisiones y, a la vez, qué tipo de control deseamos poder ejercer sobre ellos. En la medida en que se les implementan criterios de decisión, los algoritmos no son, en modo alguno, neutros. Son sistemas automatizados que contienen, fácilmente, sesgos. En definitiva, la pregunta ética debe estar atenta a la doble dimensión de los datos, por un lado, y del algoritmo, por otro. Tamaña cuestión requiere de un abordaje interdisciplinar.

Los algoritmos no son neutros. Refuerzan una visión de la sociedad que les ha sido dada