Amazon acquiert des livres rares pour l’entraînement de l’IA
Amazon acquiert des livres rares, enlève leurs dos et les numérise pour entraîner ses intelligences artificielles, selon un reportage de 404 Media, qui a suivi une expédition terminant dans une installation d’Amazon à Las Vegas. Ce lieu, identifié comme VGT3, est symboliquement représenté par un dinosaure tenant un livre.
Dans une déclaration faite à 404 Media, Amazon a précisé qu’il « achète des livres par le biais de canaux commerciaux pour améliorer les produits et services utilisés par les clients ». La nécessité de disposer de vastes ensembles de données textuelles découle de la quête des entreprises comme Amazon pour des quantités conséquentes afin de former leurs modèles de langage de grande taille (LLM), ayant déjà accès à un matériel substantiel provenant d’Internet.
Les livres rares, notamment ceux qui ne sont plus imprimés ou non disponibles en ligne, représentent une nouvelle source significative de données d’entraînement précieuses. Ce contenu, datant d’avant 2022, garantit qu’il n’est pas rédigé par un LLM, ce qui est crucial pour éviter le phénomène de « collapse du modèle ». Ce phénomène survient lorsque les LLM risquent de se dégrader en qualité de sortie à cause d’une ingestion excessive de texte généré par l’IA.
La dépendance croissante à des sources textuelles diverses et uniques souligne la compétition permanente entre les entreprises technologiques pour améliorer leurs capacités en matière d’IA. À mesure que la demande de données d’entraînement de haute qualité s’intensifie, les préoccupations éthiques entourant l’approvisionnement de tels matériaux pourraient prendre le devant de la scène dans les discussions concernant l’industrie de l’IA et les droits de propriété intellectuelle.
