Nouvelles révélations dans le procès du New York Times contre OpenAI et Microsoft
Des révélations provenant d’un dossier non scellé dans le procès pour violation de droits d’auteur engagé par le New York Times contre OpenAI et Microsoft indiquent des admissions internes significatives concernant les pratiques de formation des modèles d’IA, considérées par beaucoup comme s’apparentant à du vol. Le document révèle qu’un cadre de Microsoft a qualifié le scraping d’intelligence artificielle des entreprises de « vol », tandis que la direction d’OpenAI a reconnu que ses modèles d’IA représentent une « menace existentielle » pour les éditeurs et les journalistes.
Les documents non expurgés décrivent diverses manières dont les entreprises auraient prétendument obtenu du contenu, notamment en contournant les paywalls de manière non détectée et en construisant d’énormes ensembles de données d’entraînement par scraping massif. De plus, le dossier affirme qu’elles ont intentionnellement supprimé les mentions de droits d’auteur des données utilisées pour l’entraînement.
Ces informations non scellées émergent dans le cadre d’un litige en cours qui a débuté il y a trois ans, où le New York Times accuse les entreprises de violer les lois sur le droit d’auteur en formant des modèles d’IA générative à partir de son contenu. La question légale de savoir si les entreprises d’IA peuvent utiliser des matériaux protégés par le droit d’auteur pour l’entraînement reste non résolue, bien que les tribunaux aient généralement soutenu la position des entreprises d’IA selon laquelle une telle formation relève de l’« usage équitable ». Ce cadre légal permet une utilisation limitée d’œuvres protégées sans autorisation, à des fins de commentaire et de reportage.
Cependant, plusieurs nouvelles admissions des entreprises vont à l’encontre de leur défense basée sur l’usage équitable. Notamment, les données de Microsoft indiquent que son « moteur de réponse » Copilot a entraîné une chute dramatique de 93 % des taux de clics sur le site du New York Times par rapport aux recherches classiques sur Bing. Brent Hecht, directeur des sciences appliquées chez Microsoft, a décrit ce déclin comme un « cercle vicieux » affectant négativement à la fois la performance des modèles et le trafic web.
Le PDG de Microsoft, Satya Nadella, a témoigné que toute utilisation de contenu soumis à un paywall nécessite une licence et a noté que s’il avait su qu’OpenAI avait extrait ce type de contenu, il aurait exigé un réentraînement de ses modèles. Ce témoignage souligne la reconnaissance par les entreprises des implications économiques pour les détenteurs de contenu original.
De plus, d’autres déclarations du responsable de ChatGPT chez OpenAI et d’autres cadres soulignent que des produits comme le chatbot représentent une substitution significative à la consommation directe de l’information, suggérant que ces modèles pourraient concurrencer les œuvres originales plutôt que de simplement les compléter.
Des documents internes de Microsoft avertissent d’un « risque réel » que la technologie d’IA générative puisse nuire à l’emploi des créateurs de contenu dont le travail soutient l’entraînement de tels modèles. Il a été spécifiquement révélé que les ensembles de données d’OpenAI contiennent plus de 91 000 copies d’œuvres publiées par le New York Times, et plus de 2 millions de documents dérivés de ses contenus.
Un mémo de janvier 2023 de Hecht a caractérisé la situation comme « le plus grand vol de travail de l’histoire humaine », soulignant davantage l’ampleur de l’appropriation de contenu dans ces pratiques d’entraînement de l’IA. Ce document outline également comment OpenAI et Microsoft ont collaboré, OpenAI partageant l’intégralité de l’ensemble de données de formation GPT-3 avec Microsoft, qui l’a utilisé pour développer ses offres d’IA.
Par ailleurs, le procès révèle que des employés d’OpenAI ont élaboré des stratégies pour contourner les paywalls, comme en témoignent des communications où un chercheur a informé la direction de l’existence d’un « hack » pour accéder au contenu protégé. La discussion interne indique une culture d’ouverture concernant des pratiques que beaucoup pourraient considérer comme contraires à l’éthique.
En réponse à ces nouvelles révélations, Steven Lieberman, conseiller juridique du New York Daily News, a déclaré que les éléments dévoilés démontrent une reconnaissance claire par OpenAI et Microsoft de la faute inhérente à leurs pratiques. Les deux entreprises n’ont pas répondu aux demandes de commentaires concernant ces révélations.