La tiranía del algoritmo

Un sábado de 2017, bajando de frente y sin escalas por la calle Broadway, llegué al Time Warner Center, el emblemático centro comercial de Columbus Circle cuyo lobby es custodiado por dos rollizas figuras metálicas de Fernando Botero, un Adán y una Eva que fungen como colosos guardianes desnudos del capitalismo moderno. Subí a la tercera planta y encontré lo que había ido a buscar: la primera tienda física de Amazon en Nueva York, un paradójico experimento que pretendía romper la barrera del ciberespacio para competir en nuestro universo corpóreo con las, ya de por sí en desventaja, librerías de barrio y que, gracias a los dioses literarios, ha fracasado.

La última de ellas ha cerrado hace unos meses y eso, aunque triste por los empleados afectados, es un acontecimiento de gran relevancia para la industria editorial. La tienda sufría un pequeñísimo defecto: no tenía alma. Pasear por sus pasillos asépticos con iluminación de hospital era vagar sin rumbo por los dominios del algoritmo, una tierra desangelada en la que solo los títulos con la puntuación más cercana a las cinco estrellas y las mejores reseñas del momento eran dignos de ser exhibidos. No había espacio para nuevos autores desconocidos, textos experimentales ni fondo de armario. Era la materialización de un futuro postapocalíptico regido con mano de hierro por líneas de código y ambientado de fondo con la robótica voz de Alexa.

El algoritmo de venta de libros de Amazon reúne todos los elementos de las “armas de destrucción matemática” que Cathy O’Neil, doctor en matemáticas de Harvard y conocida por su cameo en “El Dilema de las Redes Sociales” de Netflix, describe en su libro que lleva el mismo nombre. Primero, su opacidad ¿cuáles son los criterios usados por Amazon para recomendar unos libros sobre otros? ¿cómo hace las conexiones entre los gustos literarios de un usuario? ¿tiene en cuenta factores personales como la raza o la orientación sexual? ¿utiliza datos privados de navegación o redes sociales? Ninguna de estas preguntas obtiene una respuesta satisfactoria.

Segundo, su propia retroalimentación, de la cual la tienda de Columbus Circle es su máximo representante, pues es obvio que si solo se exponen los títulos populares que son tendencia, serán estos mismos los que más se venderán, promoviendo un sesgo de confirmación a través de datos trucados que dan la falsa impresión de que el algoritmo es correcto y, peor aún, justo en sus mediciones y sugerencias.

Y, por último, la acentuación de la brecha entre escritores, pues esta tiranía del algoritmo corrompida por la popularidad perjudica con mayor insidia a los autores que, aunque su trabajo tenga todos los méritos para ganarse un lugar en el Olimpo literario, no consiguen el volumen de ventas de los libros de youtubers famosos, tal y como le ocurrió a Abdulrazak Gurnah (Nobel 2021), cuya obra se encontraba prácticamente descatalogada en el planeta entero hace apenas un año y a quien la Academia Sueca arrancó de las garras del olvido concediéndole el galardón. Una redención que, si por el algoritmo de Amazon fuera, nunca habría sucedido.