Armas de destrucción matemática, Cathy O’Neil

Indienauta » 01.02.2018

«El futuro está en los datos». «El big data es el presente y el futuro de las empresas». «El big data es una de las profesiones con más demanda». Etc, etc, etc. Eslóganes y titulares de miles de artículos hablando de la TENDENCIA en mayúsculas que ya mueve el mundo… y que nadie controla. Porque vivimos en la «era del algoritmo», aparentemente imparable, y bendecida como más eficiente y equitativa pero, ¿conocemos realmente cómo funciona? ¿qué hay detrás? ¿cómo nos afecta —y afectará—? Eso es lo que descubre Armas de destrucción matemática, a cargo de la profesora y científica de datos Cathy O’Neil, que Capitán Swing acaba de publicar. Aviso a navegantes: sus conclusiones indignan y aterran a partes iguales.

Ph.D. en Matemáticas por Harvard, postdoctorada en el departamento de Matemáticas del MIT y profesora en el Barnard College, la propia trayectoria laboral de O’Neil habla por sí sola de su evolución personal —su viaje hacia el desencanto— tras comprobar cuál era el uso de los modelos matemáticos, teóricamente «objetivos» y «neutrales», en el terreno corporativo-bancario-bursátil, así como sus terribles consecuencias en nuestras vidas cotidianas. Del sector privado —entre otras posiciones, analista de información cuantitativa para un fondo de cobertura justo cuando la crisis-estafa estallaba— a Occupy Wall Street, bloguera en mathbabe.org, invitada semanal en el podcast Slate Money y autora de libros como Doing Data Science —junto a Rachel Schutt— o Being a Data Skeptic, antes de que Armas de destrucción matemática, publicado en Estados Unidos en 2016, fuera nominado para el National Book Award en la categoría de no ficción. La conversión de una brillante matemática en una activista social mediante la exposición, o mejor dicho, revelación, de la oscura «trastienda» de la inteligencia artificial.

Porque como afirma el demoledor subtitulo del libro, Cómo el Big Data aumenta la desigualdad y amenaza la democracia, la tesis O’Neil es clara y contundente. Actualmente, las tecnologías basadas en algoritmos están reproduciendo, cuando no exacerbando, los errores humanos, prejuicios y generalizaciones aberrantes incluidas, de modelos estadísticos pretéritos. En estas páginas se desmonta por completo la idea, mejor dicho, el mantra repetido «hasta el infinito», de que la tecnología es imparcial, el paradigma de la democracia. En cambio, por aquí desfilan sexismo, racismo, clasismo y máxima opacidad junto a una, en cambio, «prensa» inmejorable —en un mundo de zombis, Apple, Google, Facebook y compañía son «los reyes»—…. Vamos, que el big data es la herramienta perfecta del capitalismo salvaje.

Lo que convierte a este ensayo en una obra muy valiosa es que O’Neil no pretende iluminarnos con el desglose pormenorizado de la analítica tras los algoritmos —aunque el libro es lógicamente denso, no se puede negar—. Sino que nos muestra mediante ejemplos perfectamente entendibles, cercanos y especialmente relevantes para nuestras vidas, cuáles son las consecuencias de un sistema estadístico sesgado, equivocado o… directamente manipulado. Una hipoteca, la concesión de un préstamo, el seguro del coche, el proceso de selección tras una oferta de trabajo, la elección de la universidad —y sus costes—, hasta la posibilidad de acabar en prisión —afortunadamente esto todavía parece muy americano, pero como la «ley mordaza» siga arrasando con todas nuestras libertades no sé yo…— tienen detrás . Y, ¡oh sorpresa! Mientras menos pudiente, menos blanco y menos hombre seas… más difícil lo tienes.

Armas de destrucción matemática contiene capítulos verdaderamente espeluznantes. La destrucción de las carreras de brillantes y queridos profesores debido a sus resultados en un test de evaluación que no tiene en cuenta —ni puede ni quiere— el factor humano y se basa en categorías de computación arbitrarias o modificables torticeramente. El doble rasero con el que una persona de color que haya tenido alguna disputa judicial es etiquetada como «probable reincidente» mientras un acusado blanco, en igual o peor situación, es considerado de «bajo riesgo» por el sistema, ya que el segundo posee mayores ingresos económicos, estudios más avanzados, vive en una zona mejor, etc. Es un ataque continuo a la pobreza, una criminalización perversa, porque se retroalimenta —la policía focaliza su labor en las zonas donde el modelo les informa de una mayor probabilidad delictiva, deteniendo a más gente en ese área y encareciendo de ese modo los seguros para la población con menos recursos—. Y lo peor es que perpetúan una espiral con nuestra connivencia. Nos ponemos a ver Black Mirror, sin embargo no podríamos vivir sin nuestro smartphone. Decimos estar preocupados por la deshumanización de la sociedad. Pero encontramos de lo más curioso e interesante que Amazon abra una tienda sin trabajador alguno, o que una cadena comercial china lo sepa todo de ti —incluida tu cuenta corriente, claro— una vez pones un pie en la puerta. Infinitos moneyballs…

Y es que la lectura más poderosa, en mi opinión, que puede extraerse de Armas de destrucción matemática, es nuestra irresponsabilidad como ciudadanos y consumidores, nuestra falta de respuesta, adoctrinados —pero de verdad— bobaliconamente ante el big data, algo que no entendemos ni remotamente, pero que «abrazamos» cual nueva religión, y que oculta la invasión en toda regla y sin cuartel, de un modelo económico que ha encontrado un aliado aparentemente indestructible en el algoritmo. Porque es tremendamente opaco, secreto —¿hay alguien capaz de meterse con Google, por ejemplo, a estas alturas?—. Porque cuando la duda se manifiesta o se expone, resulta demasiado complejo de explicar, por tanto ni medios ni ciudadanos reaccionan ante su arbitrariedad. Porque genera ingresos crecientes, reforzando por tanto al sistema —¿hay algo más capitalista que la frase «si da dinero es bueno»?—, «demostrando», por tanto, que el software es eficiente y productivo. O’Neil también plantea la evidente solución. Debemos exigir transparencia, reversibilidad y regulación pública. Pero para ello, primero debemos reconocer que existe un problema y conocer su dimensión. Los datos, la información, nunca han sido inocentes ni imparciales. ¿Que nos hacía pensar que por añadirle el adjetivo big la cosa iba a ser distinta? No es la lectura más sencilla. Tampoco los tiempos lo son. Pero es más que necesaria. Aún podemos hacer algo…