Cómo las empresas de IA están destruyendo los libros del mundo

Traducido por Franco Brzovic
Director
Sociedad de Bibliófilos Chilenos

Chris Stokel-Walker es un periodista independiente y colaborador regular de WIRED. Su trabajo también se puede leer en New Scientist, la BBC y The Economist. Es autor de dos libros: YouTubers, about the rise of YouTube and the creator economy y TikTok Boom, que trata sobre cómo esta plataforma ha marcado el futuro de las redes sociales. Vive en Newcastle.

The Telegraph 30 de julio

En su afán por potenciar la IA, Silicon Valley está comprando millones de ediciones raras, escaneándolas y luego destruyendo los originales.

En la librería y tienda de libros antiguos de Pieter de Vries, ubicada en el centro histórico de Haarlem, el tiempo parece detenerse. Este holandés de 60 años se especializa en mapas, ilustraciones y grabados, muchos de ellos de los siglos XVI y XVII. Además, mantiene un próspero negocio paralelo de libros raros.

Entre su colección se encuentra un libro sobre la historia de Roma, publicado en 1558; libros de viajes de los siglos XVII, XVIII y XIX; valiosas primeras ediciones; libros de historia natural; y, hasta hace poco, una edición limitada de The Highgrove Florilegium, una impresionante guía ilustrada en dos volúmenes sobre la diversa flora cultivada en los jardines de la querida Highgrove House del rey en Gloucestershire, firmada por el entonces príncipe Carlos.

En un día normal, el librero vende un solo libro. El flujo de clientes en la tienda es mínimo. De vez en cuando, suena el teléfono. Por eso, el correo electrónico que De Vries recibió a mediados de junio, con una lista de unos 3000 títulos, resultó tan inusual.

La remitente se identificó como «Nataly» de una empresa llamada 2077AI. «Participo en un nuevo proyecto centrado en la colección de libros en varios idiomas, principalmente en inglés», escribió Nataly. «Hemos elaborado una lista muy extensa de ediciones que estamos intentando conseguir (la lista está adjunta) y planeamos realizar un pedido considerable».

De Vries no se atrevió a abrir la hoja de cálculo adjunta porque supuso que se trataba de una estafa. «En el mercado de libros raros, es muy raro que la gente quiera comprar más de un libro», afirma. «Así que si alguien viene y dice: “Quiero un par de cientos de sus libros”, es muy extraño».

No se trataba de una estafa; era algo aún más inquietante. Resultó ser parte del último intento extraordinario de Silicon Valley por potenciar sus máquinas de IA. De Vries pronto descubrió que era solo uno de los cientos de libreros de libros raros de todo el mundo que, este año, han sido contactados por empresas que están acaparando el suministro mundial de libros de segunda mano en nombre de los gigantes tecnológicos californianos.

Los libros se introducen en máquinas de escaneo de alta velocidad que cortan los lomos y trituran o destruyen los originales. El proyecto secreto, revelado esta semana por el sitio web de noticias tecnológicas 404 Media, se ha creado para entrenar nuevos modelos de IA. Pero los usuarios de las redes sociales han reaccionado con horror ante la magnitud de la operación.

Según 404 Media, un servicio llamado ISBNdb ofrecía la posibilidad de solicitar hasta un millón de libros a la vez, incluyendo libros raros de los que prácticamente no quedan ejemplares. Como comentó un usuario de SpaceX esta semana: «Libros que sobrevivieron a guerras, incendios y siglos de manipulación están siendo triturados para que una IA aprenda a escribir mejores correos electrónicos de marketing».

Elon Musk también expresó su preocupación. «Le he pedido al equipo de IA de SpaceX que conserve los libros raros de las bibliotecas y los escanee de la forma tradicional, en lugar de simplemente cortar el lomo y escanearlos», dijo en una publicación de SpaceX.

Las bases del proyecto se sentaron hace dos años. En febrero de 2024, Anthropic, creadora de Claude, uno de los chatbots de IA más sofisticados del mundo, contrató a Tom Turvey, exejecutivo de Google Books, con un objetivo simple pero ambicioso: obtener «todos los libros del mundo». Anthropic quería ampliar el conocimiento de su modelo de IA, y todos los libros del mundo podían convertirse en material útil para saciar su apetito de datos.

Marçal Font i Espí, librero de segunda mano afincado en Badalona, ​​a pocos kilómetros de Barcelona, ​​y profesor de literatura en la Universidad de Barcelona, ​​cree que las empresas de IA han llegado a un punto crítico: a medida que la web se inunda de información generada por IA, los desarrolladores de modelos se quedan sin datos frescos, creados por humanos. Según él, aún necesitan información generada por humanos para mejorar.

Antes de incorporarse a Anthropic, Turvey había trabajado como responsable de alianzas en el proyecto de digitalización de libros de Google, pero el programa de libros de su nueva empresa era algo diferente. Se le pidió que adquiriera el catálogo mundial de libros antiguos con la menor cantidad posible de trámites legales, prácticos y comerciales (como lo describía el departamento de comunicación interna de Anthropic).

El mes pasado se publicó la decisión de un juez de California en un caso judicial que analizaba si Anthropic debía dinero a los autores cuyos libros utilizó para entrenar sus modelos. Los documentos revelaron que, poco después de asumir su cargo, Turvey envió algunos correos electrónicos superficiales a editoriales para solicitar licencias de libros para el entrenamiento de IA. Sin embargo, abandonó rápidamente esa estrategia y, en su lugar, se dirigió directamente a distribuidores y librerías, buscando comprar copias impresas al por mayor.

En total, Anthropic gastó millones de dólares comprando libros en masa, para luego destruirlos arrancando las páginas de sus cubiertas con una máquina de corte hidráulica, antes de desecharlos. Si bien no era necesario destruir los libros para que los escáneres los leyeran, su destrucción reforzó el caso legal de Anthropic. El juez dictaminó que extraer el contenido de los libros mediante escaneo digital y luego destruirlos por completo no constituía una infracción de derechos de autor, ya que la versión digital «reemplazaba» la física: se consideró un acto de transformación, no de duplicación, y por lo tanto, no contravenía la ley de derechos de autor.

La singularidad de esa ley estadounidense tiene sus raíces en antiguas disputas sobre la digitalización de libros. En esencia, los titulares de derechos anteriores defendieron con tanta vehemencia sus derechos de autor que las empresas de IA deben destruir los libros por completo para poder utilizarlos.

La sentencia de California ha creado un incentivo financiero para que las empresas de IA compren libros de segunda mano o no deseados en lugar de negociar licencias con las editoriales, lo que, más allá de la destrucción de los propios libros, ha indignado a los defensores de los derechos de autor. «Sí, puede que sea legal ahora mismo, pero mucha gente piensa que no debería serlo», afirma Ed Newton-Rex, fundador de Fairly Trained, un grupo de defensa de los derechos de los creadores y crítico declarado del enfoque de la industria de la IA respecto a las obras protegidas por derechos de autor. Él mismo trabajó en el sector de la IA y sostiene que la compra de una copia física no debería otorgar automáticamente permiso para utilizar su contenido en la creación de un modelo comercial.

Si uno simplemente gasta un dólar en un libro usado, y todo el dinero va a parar a un mayorista de libros, ¿debería eso darle derecho a entrenar un modelo comercial de IA generativa con ese libro, que luego podrá competir con el autor que lo escribió? Newton-Rex sugiere que «mucha gente, yo incluido, piensa que no». Anthropic declinó hacer comentarios.

Mientras tanto, la destrucción de los libros físicos también resulta inaceptable para muchos, un hecho del que las empresas de IA parecen ser conscientes: la industria artesanal que ha surgido para apoyar la compra masiva de libros usados ​​está rodeada de secretismo. Como escribió ISBNdb en una entrada de blog en su sitio web: «El problema de imagen es real. «Empresa de IA destruye dos millones de libros» no es un titular que genere simpatía». (Un portavoz de ISBNdb admitió a The Telegraph que ofrecían el servicio, pero dijo que era una prueba «para explorar la demanda de un servicio que nunca llegamos a implementar»)

Font i Espí empezó a sospechar cuando su librería recibió un aluvión de compras inusuales, muchas de ellas con gastos de envío muy superiores al valor de los libros. No hay indicios de que los pedidos procedieran de ISBNdb. Font i Espí afirma que librerías de Alemania, Francia, España y Nueva Zelanda han observado una actividad.

Newton-Rex afirma que el secretismo es revelador. «Es evidente que tanto el proveedor de estos libros como las empresas de IA saben que esto da muy mala imagen y no quieren que se filtren los detalles», declara.

Los casos judiciales que mencionan el escaneo y la destrucción de libros no especifican títulos concretos, salvo los presentados por los demandantes, pero 404 Media alega que muchos eran ejemplares raros. De Vries comenta que ninguno de los libreros de libros antiguos holandeses que conoce ha respondido, pero cree que los vendedores de segunda mano menos especializados sí lo han hecho. «Hay muchísimos libreros de segunda mano, muchísimos, y creo que enviaron una cantidad considerable», afirma.

Para Font i Espí, el peligro es especialmente grave cuando las empresas adquieren el último ejemplar accesible de una obra poco conocida.

La ley de derechos de autor no distingue entre un ejemplar desgastado de bolsillo de Harry Potter, uno de los millones impresos, y uno de los cinco únicos ejemplares que sobreviven de una obra antigua poco conocida. «La ley de derechos de autor no se preocupa en absoluto por los originales ni por los objetos físicos», afirma James Grimmelmann, profesor de derecho digital y de la información en la Universidad de Cornell. Tanto si un libro se imprimió por millones como en una edición de cinco ejemplares, «los trata a todos como una copia».

Font i Espí subraya que no está en contra de la digitalización en sí misma. «No estoy en contra de la IA. Entiendo que los libros y el conocimiento antiguo deben transferirse a nuevos formatos», declara. Pero el objetivo debe ser «digitalizarlos correctamente, no destruir el documento original».

Para Newton-Rex, sin embargo, la escasez o abundancia de ejemplares impresos de los libros es irrelevante. «En la era de la IA generativa, no hay imagen más apropiada para la explotación que subyace a esta tecnología que la de empresas multimillonarias que compran libros por unos pocos centavos o un dólar cada uno, los escanean, los utilizan para entrenar modelos y luego los destruyen, aniquilando así la cultura».

Y, por muy legal que sea actualmente, no todos en Silicon Valley están conformes con este trato a los libros. «Hay algo particularmente misantrópico en la destrucción mecanizada de objetos humanos tan íntimos», escribió Matan Grinberg, director ejecutivo de Factory AI, una empresa de IA. «La historia rara vez juzga con benevolencia a quienes destruyen libros, sean cuales sean los motivos».

O, como dice el librero De Vries: «Es una especie de barbarie… como la quema de libros».