VIRGINIA EUBANKS

En el libro “Automatizando la desigualdad”, la autora nos explica cómo la minería de datos, las políticas del algoritmo y los modelos predictivos contribuyen a aumentar la injustica social en EE. UU. Lo hace en modo excelente a través del relato de dramáticas historias individuales, enriqueciéndolo con un repaso del trato que se ha dado en ese país a la gente con menos recursos durante más de cien años.

La autora argumenta que hoy asistimos a un desarrollo intensivo de lo que llama el “hogar digital de los pobres” cuyo verdadero objetivo es, y ha siempre sido desde 1820: perfilar, vigilar y castigar a los pobres. Y, nos muestra como las herramientas digitales han incorporado la visión sancionadora y moralista de la pobreza en los EE. UU.

Eubanks desmonta las tesis de los defensores de la digitalización de los servicios sociales, los cuales afirman, entre otras cosas, que las herramientas de alta tecnología (en particular, los Big Data y la Inteligencia artificial) aportarían beneficios concretos a un siempre mayor número de personas y de manera más humana, gracias a la simplificación de las prácticas burocráticas, al aumento de la transparencia, a la reducción de los fraudes, a la disminución de los costes. Lo hace explorando en profundidad tres programas sociales muy diferentes, que demuestran en qué modo los sistemas más invasivos y punitivos están dirigidos a los pobres.

En Indiana, la privatización y la automatización del proceso de elegibilidad para el acceso a los servicios sociales, introdujo procesos administrativos increíblemente engorrosos impidiendo que las personas accedieran a los beneficios a los que tenían derecho y merecían. Los errores de un sistema mal diseñado eran atribuidos a la culpa de los solicitantes porque “no habían cooperado” (¡palabras textuales en los comunicados!) para establecer su elegibilidad al programa. El resultado fue la denegación de un millón de beneficios durante tres años.

En Los Ángeles, con el objetivo declarado de utilizar los recursos existentes en modo eficiente y colaborar eficazmente, los proveedores de servicios para personas sin hogar han adoptado un sistema basado en un algoritmo que calcula la vulnerabilidad comparativa de 60.000 personas sin hogar. La autora evidencia que la clasificación social funciona bien para aquellos en la parte superior e inferior de las calificaciones, pero, al momento de escribir el libro, 21.500 personas que no respondían a los parámetros no pudieron percibir ningún recurso. El sistema no solo excluye en base a criterios oscuros y discutibles, sino que además mantiene los datos durante años, sin límites de acceso para la policía. La autora plantea el peligro que la cantidad enorme de datos relevados sean utilizados para criminalizar a los pobres, especialmente a los que no responden a los parámetros de acceso a los recursos.

En Pittsburgh, una agencia de bienestar infantil utiliza un modelo estadístico para tratar de predecir qué niños podrían ser futuras víctimas de un abuso. La investigación detallada junto con los relatos permite a la autora poner en evidencia impactos preocupantes para los potenciales “beneficiarios”. Entre ellos, la autora destaca que las medidas de clasificación incluyen no solo los miembros de la familia estrecha del menor, sino que también a parientes, amigos y vecinos. Además, el modelo de predicción es intergeneracional, pudiendo comprometer el futuro de los menores y de sus hijos.