Mujeres que replantean la economía
Ekonomia birplanteatzen duten emakumeak

eu

CATHY O’NEIL

Cathy O’Neil nació en Estados Unidos en 1972. Obtuvo un Ph.D. en Matemáticas de Harvard y posteriormente ocupó puestos en los departamentos de matemáticas del Barnard College. Actualmente, entre otras cosas, forma parte del consejo asesor de Harvard Data Science Review y es colaboradora de Bloomberg View

El aspecto más significativo de su perfil es el camino que la llevó a convertirse en una “activista de algoritmos” que trabaja incansablemente para demostrar, analizar y denunciar los efectos del Big Data y de la Inteligencia Artificial en la gente común, especialmente en los más frágiles. Investigadora y profesora de geometría algebraica matemática, interesada por la matemática aplicada, dejó la academia en 2007 y trabajó durante cuatro años en la industria financiera, incluidos dos años en un fondo de cobertura y luego en una compañía de software de riesgo.

Su experiencia en el sector financiero en el período de la crisis de 2008 le abre los ojos sobre los impactos del uso desvergonzado de los modelos matemáticos sobre la gente común. Un año después le queda claro que las lecciones del colapso del mercado no llevaron y no iban a llevar a un cambio de paradigma en las finanzas.

La desilusión la lleva a involucrarse con el movimiento Occupy Wall Street, participando en su Grupo de Banca Alternativa. Deja la finanza y entra de lleno en la era del Big Data como científica de datos en el sector de start-ups de Nueva York, creando modelos que predicen las compras y los clics de las personas Así es como comprende las similitudes entre el mundo de la finanza y el Big Data, cuyos objetivos primordiales son la productividad y el dinero.

  • 2019 Su libro ‘Armas de Destrucción Matemática: Cómo el Big Data aumenta la desigualdad y amenaza la democracia`recibió el Premio Euler y fue seleccionado para el Premio Nacional.
  • 1993 Premio Alice T. Schafer de la Asociación de Mujeres en Matemáticas

ARMAS DE DESTRUCCIÓN MATEMÁTICA: CÓMO EL BIG DATA AUMENTA LA DESIGUALDAD Y AMENAZA LA DEMOCRACIA

El libro “Armas de destrucción matemática…” es una expresión del empeño de Cathy O’Neil para divulgar los lados oscuros de una evolución tecnológica supuestamente impulsada para mejorar la calidad de la vida humana. La autora responde a la pregunta que inspira su libro a través de numerosos estudios de casos de lo que llama ADM (Armas de destrucción matemática), haciendo uso de un lenguaje claro y bastante sencillo.

Gracias al Big Data y a la Inteligencia Artificial se difunde rápidamente el uso de modelos matemáticos en la toma de decisiones, en numerosos ámbitos que administran nuestras vidas: acceso a servicios sociales, calificación de maestros y estudiantes, contratación de personal, acceso a préstamos, justicia, evaluación de los trabajadores, monitoreo de la salud, etc.

Los objetivos perseguidos por los ADM se logran a través de la recopilación y el análisis de enormes volúmenes de datos comportamentales proporcionados gratuita e inconscientemente por las personas para convertirlas en compradores, votantes o trabajadores más efectivos, y no solo. Los más afectados son los pobres y los oprimidos, ya que no tienen ningún mecanismo de defensa ante decisiones arbitrarias, incorrectas o perjudiciales tomadas a través de los ADM, los cuales codifican prejuicios históricamente determinados en modo invisible para al común de la gente. Reproduciendo el modelo social, los ADM clasifican a las personas en base a indicadores opacos que acaban determinando espirales viciosas, reforzando la discriminación.

La autora concluye con propuestas concretas para reducir los daños provocados por los modelos matemáticos, entre ellos, la regulación de los algoritmos, la auditoria, un juramento hipocrático para los científicos de datos.

Las armas de destrucción matemática en los recursos humanos, la salud y la banca, por nombrar algunas, están estableciendo rápidamente amplias normas que ejercen sobre nosotros algo muy cercano al poder de la ley

CATHY O’NEIL
CATHY O’NEIL
  • 2013. Doing Data Science: Straight Talk from the Frontline. Coautora con R. Schutt. O’Reilly
  • 2013. On Being a Data Skeptic. O’Reilly Media 2013.
  • 2016. Weapons of Math Destruction. Penguin Books. Figura en la lista del National Book Award for Nonfiction y se convirtió en un best-seller del New York Time. Publicado en español por Capitán Swings en 2018.

En un momento en que mucha gente aplaude acríticamente las potencialidades del Big Data y de la Inteligencia Artificial para mejorar la calidad de la vida, este libro, como muchas otras iniciativas e investigaciones realizadas por numerosas académicas norteamericanas, entre ellas Soshana Zuboff (“La era del capitalismo de la vigilancia”) y Virginia Eubanks (“Automatizando la desigualdad), nos ofrece un catálogo de casos de estudio que nos obliga a reflexionar, monitorear y actuar.

La intención de la autora no es proporcionar un marco teórico de análisis de la evolución tecnológica en curso, sino explotar su conocimiento de los modelos matemáticos y de su aplicación para crear conciencia sobre los lados oscuros de un uso indiscriminado. El libro se dirige a la gente común, este es su gran valor. Pero constituye también una base de reflexión para los científicos de datos y para todos los especialistas que de alguna manera non han todavía dado el justo peso al rol del uso tecnología en el aumento de las desigualdades que caracteriza el modelo neoliberal.

Sin embargo, es cierto que la falta de un marco teórico no le permite a la autora insertar los estudios de caso en una crítica al modelo neoliberal que resalte el rol de los gigantes de la economía digital (Google, Apple, Facebook, Amazon, Microsoft, sobre todo) como una de las principales causas de los efectos negativos del cambio tecnológico que estamos presenciando.

MARIA ALEJANDRA GUGLIEL METTI ALVAREZ – ECONOMISTAS SIN FRONTERAS