Les mathématiciens avertissent que les laboratoires d’IA menacent l’intégrité de la recherche
Vingt-cinq mathématiciens de premier plan ont signé une lettre ouverte affirmant que les actions des laboratoires d’IA compromettent l’intégrité de leur travail intellectuel, alors que ces entreprises s’efforcent de se surpasser avec des solutions à des problèmes mathématiques majeurs.
Cette semaine, le professeur de l’Université de New York, Tristan Buckmaster, a accusé OpenAI de l’avoir obligé à ne pas reconnaître un collaborateur affilié à Anthropic après que celui-ci a contribué à la résolution d’un important problème mathématique. Buckmaster s’est demandé si OpenAI avait compté sur leur collaboration avec Codex pour produire sa propre preuve significative au cours d’un week-end marathon d’inférence.
Jeudi, OpenAI a retiré son parrainage d’un événement mathématique à CalTech suite à des critiques formulées par des chercheurs de l’université concernant les pratiques de l’entreprise. La lettre des mathématiciens souligne que, bien que la capacité de l’IA à s’attaquer à des défis mathématiques exceptionnels puisse bénéficier à l’humanité, ce potentiel repose sur la compréhension et la communication des solutions au sein de la communauté mathématique et au-delà.
Dans la lettre, les signataires ont déclaré : « Souvent, ces solutions sont annoncées en urgence, ne laissant pas le temps pour une rédaction appropriée, l’isolement de nouvelles méthodes et idées, et pour citer les travaux antérieurs pertinents d’autres », soulignant que la preuve fournie par OpenAI reste non vérifiée. Ils ont exprimé des inquiétudes concernant de graves problèmes d’attribution et de plagiat découlant de l’état actuel des solutions alimentées par l’IA. Les auteurs ont noté que le manque d’engagement des mathématiciens dans le développement et l’intégration des idées issues de l’IA conduirait finalement à une perte de connexions critiques au sein du domaine.
Une angoisse croissante règne parmi les mathématiciens quant à la manière dont leur utilisation de Codex pourrait avoir influencé les nouveaux modèles d’OpenAI. Cette crainte s’étend à l’idée que la culture de la recherche ouverte pourrait être minée, les principaux laboratoires pouvant investir des millions pour devancer les chercheurs originaux dans l’obtention de preuves. De telles dynamiques pourraient inciter à la confidentialité plutôt qu’au développement collaboratif.
Cette lettre s’appuie sur la Déclaration de Leiden, publiée par un groupe de travail de mathématiciens en juin, qui abordait les implications des preuves des LLM pour leur travail et proposait des recommandations pour les mathématiciens, les institutions et les décideurs politiques. Comme dans l’ingénierie logicielle et d’autres domaines où l’IA redéfinit les flux de travail, les mathématiciens soutiennent que l’essence de leur discipline transcende de simples preuves et crédits. Le contexte intellectuel qui favorise de nouvelles enquêtes et intègre les découvertes dans le tissu de la société reste crucial.
Enfin, la lettre note les implications plus larges pour l’humanité : « Les problèmes que la communauté mathématique rencontre actuellement sont similaires à ceux auxquels d’autres professions scientifiques et créatives font face, et indiquent des questions que toute l’humanité pourrait affronter : comment s’assurer que, alors que l’IA change la manière dont le travail est effectué, nous ne perdons pas de vue ce que ce travail était censé accomplir au départ. »
