La face sombre de la formation LLM : comment le « projet Panama » d’Anthropic aurait détruit des millions de livres

Un massacre littéraire pour l'apprentissage automatique

Dans la quête effrénée de la suprématie de l'intelligence artificielle, la soif de données d'entraînement de haute qualité a atteint un niveau critique. Si la plupart des utilisateurs interagissent avec l'IA via des interfaces claires et des réponses pertinentes, une tendance inquiétante se dessine en coulisses. Des rapports indiquent qu'Anthropic, le géant de l'IA à l'origine de la série Claude, a mené une opération massive d'acquisition et de démantèlement systématique de millions de livres physiques afin d'accélérer l'entraînement de ses grands modèles de langage (LLM).

Cette opération, baptisée «Projet Panama», met en lumière un conflit croissant entre la préservation de la culture humaine et l'industrialisation de l'acquisition de données pour l'ère de l'IA.

Révélations sur le «Projet Panama»: les mécanismes de destruction

Selon plusieurs rapports, dont une enquête approfondie du Washington Post, le Projet Panama n'était pas une simple opération de numérisation, mais une opération destructrice. Le processus a été conçu pour une efficacité et une rapidité maximales, privilégiant le débit à la préservation.

Le flux de travail aurait impliqué plusieurs étapes impitoyables:

• Acquisition en masse: Dépenser des millions de dollars pour acquérir de vastes quantités de littérature imprimée sur les marchés commerciaux.
• Préparation destructive: Plutôt que de numériser soigneusement les volumes reliés, l’entreprise aurait coupé les dos des livres. Cela a permis de numériser les pages individuellement à l'aide de scanners industriels à grande vitesse, à un rythme bien supérieur aux méthodes traditionnelles de numérisation de livres.
• Numérisation: Les pages volantes ont été converties en texte lisible par machine, puis intégrées aux vastes ensembles de données utilisés pour affiner les capacités cognitives de Claude.
• Élimination: Une fois le texte extrait, les fragments physiques restants, désormais dépourvus de leur reliure, ont été mis au rebut.

Un document de planification interne aurait décrit le projet avec une clarté glaçante: «Le projet Panama est notre tentative de numériser de manière destructive tous les livres du monde», ajoutant: «Nous ne voulons pas que l'on sache que nous travaillons sur ce projet.»

Les conséquences juridiques et le débat sur l'«utilisation équitable»

La controverse entourant le projet Panama est inextricablement liée à la bataille juridique plus large autour du droit d'auteur à l'ère de l'IA. Anthropic a récemment conclu un accord à l'amiable dans le cadre d'un procès retentissant pour violation de droits d'auteur, pour un montant de 1,5milliard de dollars. Bien que le tribunal ait statué que l'entraînement des modèles d'IA relève généralement de l'«usage loyal» — comparant le processus d'apprentissage de l'IA à celui d'un écrivain humain étudiant des œuvres existantes pour créer une œuvre nouvelle —, il a néanmoins constaté qu'Anthropic avait violé les droits d'auteur en conservant une bibliothèque de 7 millions de livres piratés. Alors que d'autres géants de l'IA comme OpenAI, Google et Meta ont fait face à des poursuites similaires concernant l'utilisation de bibliothèques numériques, Anthropic est actuellement le seul acteur majeur à avoir détruit physiquement des exemplaires de livres pour atteindre ses objectifs de collecte de données. Réponse d'Anthropic: Interrogé par Tom's Guide, un porte-parole d'Anthropic a défendu cette pratique d'acquisition de livres, soulignant qu'il s'agit d'une approche courante dans le secteur de l'IA. L'entreprise a insisté sur le fait qu'elle ne cible pas les ouvrages rares ou anciens, déclarant: «Aucun de nos programmes d'acquisition de données n'achète et ne détruit de livres "rares" ou "anciens". Nous achetons des livres sur les marchés commerciaux traditionnels.» Concernant les litiges juridiques, l'entreprise a mis en avant l'accord Bartz, affirmant que les tribunaux ont confirmé la légalité de l'entraînement des IA au regard du droit d'auteur.

Enjeu éthique

La révélation du Projet Panama soulève de profondes questions éthiques. Bien que l'entreprise affirme n'avoir ciblé que des ouvrages commerciaux courants, la destruction systématique de millions d'exemplaires physiques pour en obtenir une copie numérique crée un précédent dangereux. La disparition de la littérature physique, même en grande quantité, représente un glissement vers un monde où les œuvres originales de la pensée humaine sont sacrifiées pour alimenter les algorithmes qui pourraient un jour remplacer les auteurs eux-mêmes.

Alors que l'IA continue d'évoluer, la tension entre le besoin de données et le respect de la propriété intellectuelle et physique demeure l'un des défis les plus critiques pour le secteur technologique.