Armas de destrucción matemática, de Cathy O’Neil

Armas de destrucción matemáticaLa minería de datos y su capitalización son el nuevo paradigma de una internet donde una mayoría de usuarios hemos aceptado convertirnos en el producto. Una transacción todavía más demencial cuando se considera el enigma de cuál es la información que se está utilizando y el desconocimiento de lo que se hace con ella, más allá del eslogan puesto una y otra vez en cuestión de «ofrecer publicidad relevante». Dispuesto a conjurar dudas me acerqué a Armas de destrucción matemática, un libro donde Cathy O’Neil parte de su experiencia en la creación de algoritmos para tratar sus entresijos y cuándo terminan transformándose en lo que denomina «armas de destrucción matemática» (ADM). Una etiqueta en apariencia alarmista que lo parece menos cuando, capítulo a capítulo, O’Neil revela cómo el sesgo detrás del tratamiento de la información afecta a multitud de cuestiones ocultas.

Los procesos de selección de personal de las grandes empresas, las condiciones para conseguir un crédito bancario, los sistemas de reputación personal para fijar sentencias judiciales o el uso de publicidad segmentada en las redes sociales son algunos de los temas que la escritora utiliza para aflorar las consecuencias de unos algoritmos que se están haciendo con el control de nuestras vidas. Todo hay que decirlo, desde una perspectiva eminentemente estadounidense. De ahí que muchos aspectos deban tomarse más como admonitorios; una consecuencia de continuar cediendo al ámbito de lo privado parcelas que en España se mantienen en la esfera de lo público.

Para delimitar si un algoritmo es una buena herramienta o una ADM, un proceso que refuerza prejuicios y afianza su propio éxito a costa de hundir a los agraviados, O’Neil se apoya en tres criterios: la escala a la cuál se aplica, la opacidad y la realimentación. Este método recurrente cohesiona su visión y dota de continuidad a los diferentes apartados del texto. Desde un punto muy personal, uno de los capítulos más sangrantes abarca la evaluación docente en la educación obligatoria. Uno de los grandes déficits de nuestro sistema educativo que, sin embargo, no se ve sometido a multitud de sistemas chapuceros pretendidamente objetivos; ponen la labor de excelentes profesionales en duda porque no cumplen unos estándares ocultos que desprecian por completo la función docente y que se revelan todavía más absurdos cuando sus entrañas quedan expuestas a la luz pública tras la conveniente demanda judicial.

La exposición de O’Neil es clara, está bien compartimentada y mantiene un tono más coloquial que académico. En varias ocasiones la redacción se enfoca desde una perspectiva más personal de lo habitual dada la implicación de la autora en diferentes campos de la creación y análisis de algoritmos durante la práctica totalidad de su vida laboral. Echo en falta más rigor a la hora de citar las fuentes (unas veces se hace; demasiadas no), y algún índice onomástico que permita encontrar con más facilidad algunos temas tratados. Como vengo señalando en los últimos libros de no ficción que voy comentando, un mal bastante extendido entre nuestras editoriales salvo honrosas excepciones. También me hubiera gustado una mayor amplitud a la hora de tratar las soluciones, más allá unas cuantas aportaciones metidas con calzador entre las conclusiones. Aunque esto quizás se aleja del propósito de un texto cuya función está más próxima a hacer sonar la alarma y, parcialmente, sugerir un método de diagnóstico.

Leí Armas de destrucción matemática las pasadas navidades y no había escrito nada sobre él hasta que la estrategia de Corea del Sur contra el COVID-19 se convirtió en el modelo a seguir de las democracias occidentales. Ahora que la desescalada ocupa el discurso político, la geolocalización y las interacciones que has podido mantener durante las semanas previas son cuestiones estrella. Fue hace dos semanas cuando Grande-Marlaska lo avanzó en una rueda de prensa… y servidor se cagó por la pata para abajo. No porque no lo vea necesario. Someter los algoritmos al escrutinio público, ver cómo se han construido y cómo se están aplicando, en definitiva, solventar el problema en la base de toda ADM tal y como la expone Cathy O’Neil, entra en conflicto con la nula cultura de la transparencia de la administración española. A lo que se une la colaboración con unas empresas privadas que ya han demostrado el uso que hacen de esta información. No se puede negar que, individualmente y como sociedad, hemos descuidado su uso y protección. Pero, independientemente de la gravedad del momento, este nuevo mundo en el que nos vamos a convertir no debería suponer un paso adelante para transformarnos en China. O en una de las dos aterradoras distopías con las que Lionel Shriver cerraba Los Mandible.

Armas de destrucción matemática (Capitán Swing, col. Ensayo, 2018)
Weapons of Math Destruction (2016)
Traducción: Violeta Arranz de la Torre
Tapa blanda. 352pp. 19 €
Ficha en la web de la editorial

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.