Armas de destrucción matemática

armas-destruccion-matematica

Esta semana llegó a mis manos Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Se trata de un interesantísimo libro de Cathy O’Neil, Doctora en Matemáticas y profesora de la Universidad de Columbia que huyó despavorida de Wall Street en cuanto vio que los grandes tiburones de la bolsa estaban jugando con fuego.

Uno, que se dedica profesionalmente a diseñar algoritmos, y que vive inmerso entre términos que dentro de poco os sonarán, como Machine Learing o Big Data, no puede más que congratularse de que salgan voces críticas con lo que se nos viene encima.

Para empezar os daré un titular aterrador: el 90% de las transacciones que operan en Bolsa están realizadas por algoritmos que a estas alturas ya nadie controla. Sí, es cierto que no era mala idea empezar a utilizar las matemáticas para hacer una inversión más razonable que la que nos dicta la intuición o el corazón, … pero esto lleva haciéndose décadas. A estas alturas, todos los analistas están de acuerdos en que se nos ha ido de las manos la actuación de robots programados que toman decisiones por sí solos.

algoritmos-matematicos

Un algoritmo puede interpretarse como un trozo de código informático que utilizar matemáticas, bucles y bifurcaciones para emitir resultados. Estos resultados pueden ser toma de decisiones como en qué valores invertir. Hasta ahora, el uso de algoritmos para el control y la actuación en el mundo real, solía verse como la forma más aséptica, justa y racional de tomar una decisión. Si dejamos que los robots bien programados tomen nuestras decisiones más duras, ¿qué podría salir mal?

Pues nada más y nada menos que aquello de lo que nos advierte la amiga Cathy, que ya nos adelanta que su crítica es urgente y necesaria. En efecto, vivimos en la era de los algoritmos, donde los datos son la nueva religión. Cada vez con más frecuencia, las decisiones importantes que afectan a nuestra vida no la toman los humanos … sino modelos matemáticos. Me refiero a qué colegio irán nuestros hijos, cuánto pagamos de seguro de coche o la cobertura de nuestro seguro de salud privado. Como hemos dicho, en teoría, esto debería ser algo inherentemente justo: todo el mundo es tenido en cuenta de acuerdo a las mismas reglas, eliminando posibles sesgos de subjetividad.

algoritmos-matematicos

Bien, pues nada más lejos de la realidad: lo cierto es que los modelos matemáticos que se utilizan a día de hoy son opacos, sin regulación alguna y sin forma de contrarrestar su efecto, incluso cuando se equivocan. Es más (y esto es lo aterrador) refuerzan la discriminación. Si un estudiante pobre no puede conseguir un préstamo porque un algoritmo de análisis de riesgo bancario lo considera demasiado arriesgado (por algo tan sencillo como su código postal), le están cortando las alas para conseguir una educación de calidad que lo saque de esa situación. Y así comienza el círculo vicioso.

Es tan siniestro como que estos modelos matemáticos sacan de la ecuación la suerte, la ilusión, la motivación y las buenas intenciones, creando un cóctel mortal para los que buscamos un mundo más justo. La intención de estos críticos, entre los que yo me encuentro, no es eliminar los algoritmos de la toma de decisiones. Al revés, es dotarlos de mejores criterios para que no tengan esos comportamientos tan psicópatas que estamos viendo en los últimos años. Y para eso hay que hacerse preguntas difíciles.

Bienvenidos al lado oscuro del Big Data.

Autor: Dr. Pablo Aguilera

De pequeño, quería ser mago. Ahora, me gusta pensar que investigo para que la tecnología resulte útil y mágica a la sociedad. En 2015 gané el Premio Extraordinario de Doctorado en Ingeniería de Telecomunicaciones, y en 2016 me eligieron como Mejor Profesor de la Escuela de Ingenieros de Sevilla. Me encanta la naturaleza, el deporte y hacer música, por lo que en cuanto pueda planeo una escapada.