Durante tres años, Virginia Eubanks realizó una investigación sobre la privacidad digital, desigualdad económica y discriminación basada en los sistemas de minería de datos, políticas del algoritmo y modelos de riesgo predictivo. Fruto del estudio, esta profesora de Ciencia Política de la Universidad de Albany (Estados Unidos) publicó el libro La automatización de la desigualdad, herramientas de tecnología avanzada para supervisar y castigar a los pobres, que en España ha editado Capitán Swing, con la traducción de Gemma Deza. La lectura es amena —explica a través de casos concretos cómo las decisiones que los ordenadores toman tienen consecuencias directas sobre personas y familias— y arroja luz sobre un asunto complejo que intencionadamente pasa desapercibido.
¿Adónde estamos yendo como sociedad?
[Se ríe] ¡Empezamos con una pregunta chiquitina! Una de las cosas que pretendo en el libro es contextualizar históricamente los cambios que estamos viendo en los Servicios Sociales públicos de Estados Unidos mediante la automatización de las decisiones. El futuro es muy importante, pero en el pasado encontramos muchas claves. Cuando hablamos de tecnología, tendemos a pensar que las nuevas herramientas han aparecido de la nada, como si hubieran caído del cielo creando una disrupción en todo. Pero no es así. La tecnología se diseña y se implementa en contextos moldeados por decisiones políticas, así como en las costumbres sociales y culturales que hemos adoptado.
¿Y qué has hallado en el pasado?
Durante años y años, en Estados Unidos, los antiguos asilos para menesterosos atendían —y encarcelaban— a pobres y personas de la clase trabajadora que les pedían ayuda. La razón por la que hablo de ello en el libro es porque seguimos mostrando sorpresa por lo que ocurre en el presente, cuando las nuevas herramientas tecnológicas obtienen resultados muy similares a las herramientas del pasado. La sorpresa, en el mejor de los casos, es ingenua y, en el peor, es falsa. Así que la respuesta a tu pregunta de hacia dónde vamos como sociedad, sería que, ahora mismo, los Servicios Sociales públicos de Estados Unidos están volviendo hacia el pasado.
En Estados Unidos estamos creando una versión digital e invisible de los antiguos asilos para menesterosos
No suena bien.
Estamos creando una versión digital e invisible de los antiguos asilos para menesterosos, sobre un diagnóstico moral de quién merece o no recibir ayuda. Quizá esto pueda sonar un poco fuerte desde Europa, pero para entender los derechos sociales de Estados Unidos es necesario saber que tenemos un sistema que no se basa en los derechos humanos, por lo que cualquier persona por cualquier razón podría solicitarlos, sino que nosotros decimos, en primer lugar, que si eres pobre, es por tu culpa. Y si es tu culpa —y nosotros pensamos que es tu culpa—, es porque creemos que hay algo mal en ti, como puede ser haber tomado malas decisiones, por lo que bajo este paradigma bloqueamos de alguna manera el derecho a ser atendido, al mismo tiempo que limitamos las oportunidades de movilizarte políticamente. Este es el legado que hemos heredado de una América racista y supremacista blanca.
Nada cambia con el paso de los años y la revolución digital.
Mi argumento es que actualmente estamos recreando nuevas versiones de esas antiguas maneras de pensar la pobreza, los pobres y la clase trabajadora, revistiéndola de una pátina tecnológica, como si fuera más eficiente, más objetiva, más racional, menos desviada. Y bajo ella se toman esas decisiones —políticas—, que tienen consecuencias —políticas— sobre cómo gestionar la falta de equidad. Es una especie de math washing.
¿Math washing?
Como el green washing, pero con las matemáticas y con personas.
¿Un lavado matemático de la pobreza que nos hace sentir una sociedad más limpia, si los ingresos nos dan de sí?
Sí, así el proceso parece limpio, eficiente y objetivo, cuando no lo es. Estos sistemas tecnológicos son en realidad sistemas humanos que reflejan nuestro sistema de valores y nuestras decisiones políticas, independientemente de si admitimos que las tomamos o no.
Algunas personas sueñan con un mundo gobernado por ingenieros, un mundo racional. ¿Qué les dirías?
Uno de los ingenieros que creó la herramienta para el cribado de familias en Allegheny escribió un paper para Nueva Zelanda, país que rechazó el cribado, en el que básicamente se preguntaba qué podemos hacer con el data. Si podemos despegarnos de los horrores de la burocracia. Y básicamente su idea fue que, dado que las trabajadoras sociales mayoritariamente dedican su tiempo a recoger y procesar información, y como los ordenadores pueden hacer eso mejor, quizá no necesitamos a estas personas y los trabajadores sociales pueden ser reemplazados por ordenadores. Así, supuestamente, el Gobierno trabajaría de forma más efectiva y trataría a las personas de un modo más justo. Pero la realidad no es así. Una de las cosas que más miedo me da es que se piense que el data actúa de forma rápida, transparente y eficiente, cuando las máquinas toman decisiones políticas basadas en un sistema construido sobre decisiones políticas.
Políticamente se ha asumido la escasez y, a la hora de tomar decisiones duras, basadas en la austeridad, confiamos en las herramientas tecnológicas para que las tomen por nosotros
¿Por ejemplo?
Políticamente se ha asumido la escasez. No hay suficiente para todo el mundo, dicen, por lo que la austeridad es la respuesta a la escasez. Pero empíricamente no existe una verdad sobre ello. En mi opinión, vivimos en un mundo abundante donde hay suficiente para todas las personas. En vez de asumir esa máxima, asumimos la escasez y a la hora de tomar decisiones duras, basadas en la austeridad, confiamos en las herramientas tecnológicas para que las tomen por nosotros. Es una especie de triaje digital: se hace un ránking de personas en orden de quien merece, cuándo, cómo y dónde recibir ayuda, o si deben ser intervenidas y vigiladas. Esto son decisiones políticas que escondemos detrás de unas máquinas cuando ni siquiera somos capaces de hablar de ellas como comunidad y entorno político, aunque ese debe ser el trabajo de la democracia. Bregar con temas complicados, incluido este.
Has dicho suficiente para todos, eso implica repartir, cosa que no suele gustar a la clase pudiente.
Sí. Cuando escribí sobre la herramienta digital para otorgar ayudas a personas sin hogar de la ciudad de Los Angeles había unas 55.000 personas en esta situación, que hoy se elevan a 60.000. La crisis habitacional es una locura. Pero fingir que nunca habrá suficientes casas para todos tampoco es la solución. Simplemente nos enmarca en un ciclo de austeridad en el que asumimos que nunca habrá suficiente, por lo que no hay manera de empujar hacia esa dirección. Eso ha creado un clima en el que ahora hay vecinos que se han querellado contra la construcción de almacenes públicos para hospedar las bártulos de los sintecho. No son espacios para los sintecho, ¿eh? Solo son espacios para sus mochilas, sus bolsas, sus carros. Y hay vecinos que lo han denunciado mandando un claro mensaje: aquí no queremos ni siquiera vuestras mochilas. No puedes enfrentarte a la herramienta que gestiona la escasez de viviendas para sintecho y los huecos para el almacenaje de los bártulos si no es enfrentándote a la cuestión que subyace. Como me dijo uno de ellos: este no es un problema de matemáticas, sino de carpintería. No hay suficientes casas y necesitamos producir más.
En el libro abordas otro ejemplo: la herramienta para clasificar la potencialidad que tiene un niño de ser abusado, y destacas que ninguna madre de clase media se siente aludida porque Servicios Sociales no tocará a su puerta, aunque cometa errores.
El sistema de Pittsburgh es un modelo que supuestamente predice qué niños podrían ser víctimas de abuso o negligencias en algún momento en el futuro. Existe una gran diferencia en la forma en que se recopilan los datos sobre diferentes familias. Las familias pobres y trabajadoras son prácticamente las únicas personas que alguna vez entran en contacto con los Servicios de Protección Infantil, y eso se debe en gran parte a la cantidad de ojos que están puestos en esas familias. En Estados Unidos tenemos un sistema llamado informes obligatorios. Las personas que tienen profesiones en las que interactúan con niños, como escuelas, médicos, consejeros, si aprecian que un niño está siendo abusado o descuidado, la ley les exige que informen al Estado.
¿Cómo se traduce esto?
La realidad es que las familias pobres y trabajadoras entran en contacto con informes obligatorios mucho más a menudo que las familias de clase media y profesionales, reflejan los datos de este modelo. Por eso familias como la de Patrick y Angel han estado navegando por programas públicos durante generaciones. Hay una gran cantidad de datos sobre ellos, pero estar en el sistema no implica ser un padre problemático o peligroso. Sin embargo, cuanto más apoyo o ayudan buscan en el sistema, más sube su puntuación como problemático. Y si su puntuación aumenta, es más probable que vuelva a interactuar con el sistema. Es un círculo vicioso. Por eso la gente con la que hablé en Pittsburgh lo llama sistema de perfiles de pobreza, porque la realidad es que simplemente no existen datos sobre familias de clase media y profesionales, ya que mayoritariamente acuden a médicos privados si tienen un problema de salud mental o a clínicas privadas de rehabilitación si tienen un problema de adicción, por lo que sus datos nunca terminan dentro del sistema. Lo mismo ocurre si tienen necesidades para los cuidados de los niños. Unos pagarán de su bolsillo a una niñera y otros tendrán que pedir al Estado asistencia, y pasará un tiempo señalado por el sistema. Los padres y madres de clase media y profesionales que representan una amenaza para sus hijos sencillamente no están en el radar de sistemas como este.
La clase media cada vez se acorta más, ¿debería ser consciente de su vulnerabilidad y no pensar que esto no le afectará?
Las familias pobres y trabajadoras son una especie de canarios en la mina de carbón. Con ellos se prueban estas cosas. En Estados Unidos experimentamos con familias trabajadoras extranjeras y otras poblaciones marginadas —inmigrantes, personas de color, minorías sexuales— y luego los sistemas a menudo llegan a más personas. No creo que la única razón por la que se deba responder a una amenaza potencial sea porque podría afectarte, deberíamos preocuparnos de que le pase a cualquiera. Pero te diré que los datos muestran muy claramente que más de la mitad de nosotros, el 51% de las personas, estará por debajo del umbral de pobreza en los Estados Unidos en algún momento entre los 20 y 64 años. Eso no significa que todos los estadounidenses sean igualmente vulnerables a la pobreza, pero muchos de nosotros usaremos estos programas, por lo que tiene sentido que prestemos atención a cómo se trata a las personas en esos programas, porque lo que estamos haciendo ahora es construir un sistema punitivo que no es lo suficientemente generoso como para ayudar a las personas que están en crisis y que luego las castiga por estar en crisis, por lo que hace que sea mucho más difícil salir de la crisis económica.
Durante la pandemia, el Gobierno de España activó un subsidio llamado Ingreso Mínimo Vital cuya implementación ha sido un desastre. Los documentos debían enviarse online, para ser tratados no por trabajadoras sociales sino primero por personas contratadas para ello, y luego reciben la validación de un funcionario de Trabajo. Creo que ese ha sido nuestro propio experimento y el resultado ha sido nefasto.
Desde la pandemia ha habido una explosión extraordinaria de conversaciones sobre estos temas y estoy feliz de que suceda, porque creo que son debates que realmente necesitamos tener. Hay patrones, y hay empresas como Deloitte y otras grandes empresas transnacionales, que traspasan las fronteras para implantar sus propuestas.
¿La pandemia ha sido un punto de inflexión?
Rebecca Solnit construyó el concepto de paraíso en el infierno. Justo en momentos de grandes crisis —terremotos, volcanes, catástrofes de todo tipo, tanto humanas como naturales—, la gente a menudo tiene este momento en el que dice: Oh, la forma en que hemos configurado las cosas no es natural e inevitable, podemos cambiarlo. Es un momento paradójico de libertad que se da cuando las cosas están en su peor momento y podemos tomar diferentes decisiones sobre cómo hemos estructurado nuestro mundo. Hay muchos ejemplos durante la pandemia, y decisiones —subsidios— que políticamente eran imposibles en Estados Unidos o Australia, han pasado a ser posibles.
Pero nos hemos topado con este tipo de sistemas de gestión.
Quizá en momentos de desastres la gente necesita acceder de forma rápida a un sistema, pero el Estado debe desempeñar siempre un papel importante a través de los trabajadores sociales que consiste en acompañar a las personas en uno de los momentos más difíciles de su vida. Y el verdadero peligro de estos sistemas tecnológicos es que no acompañan. Es como si un maestro o un médico no te acompañaran en tu educación o enfermedad. El verdadero peligro de estos sistemas tecnológicos es que interpretan la realidad como un procesamiento de información, cuando la realidad no es esa. Estas herramientas son statu quo, herramientas de mantenimiento para el control social a través de la policía, los servicios sociales y lo que hay de estado de derecho. Creo que debemos y podemos abordar la realidad de una manera mucho mejor y de forma más directa, con una visión de un mundo más justo y equitativo. Por lo que este tema, debería situarse en la agenda de las activistas, personas, vecinas y comunidades.
He rechazado el cinismo y he escogido la esperanza, pero mi esperanza radica en los movimientos sociales que dicen ‘esto no lo aceptamos’
¿Te resultó difícil que las personas te contaran su historia?
Me gustaría destacar lo generosas que han sido. Aparecen con sus nombres y apellidos. Una de las personas que hablé en Indiana me dijo que no le importaba si usaba su historia o no para el libro, que estaba contento de que alguien le hubiera escuchado. Es frustrante pasarte horas colgada al teléfono interactuando con máquinas.
En el libro, dices que hace diez años eras moderadamente optimista sobre la tecnología. ¿Y ahora?
Nunca he dejado de ser optimista sobre la capacidad de las personas para cambiar las condiciones de las vidas. Pero creo que durante mi juventud fui bastante cínica. Luego me involucré en organizaciones activistas en derechos de asistencia social y encontré a personas realmente valientes en situaciones muy difíciles. Ahí rechacé el cinismo y escogí la esperanza. Creo que podemos cambiar absolutamente la forma en que funcionan estos sistemas y construir tecnología para las personas. Pero mi teoría del cambio no pasa por educar a los ingenieros o pedirle a Facebook que sea más agradable. Ni tampoco creo que instituciones, gobiernos y poderes cambiarán de motu proprio, sin demanda social. Creo que los cambios provienen de los colectivos, de los movimientos sociales, de las comunidades que dicen “esto no lo aceptamos”. Ahí radica mi optimismo. La justicia social no ocurre por accidente.
