Des mathématiciens mettent en garde : les laboratoires d’IA menacent l’intégrité de la recherche
Vingt-cinq mathématiciens de premier plan ont signé une lettre ouverte déclarant que les actions des laboratoires d’IA mettent en péril l’intégrité de leur travail intellectuel, ces entreprises cherchant à se surpasser avec des solutions à des problèmes mathématiques importants.
Cette semaine, le professeur de NYU, Tristan Buckmaster, a accusé OpenAI de l’avoir pressé de ne pas reconnaître un collaborateur affilié à Anthropic après que ce dernier ait contribué à résoudre un problème mathématique majeur. Buckmaster s’est interrogé sur le fait qu’OpenAI ait pu s’appuyer sur leur collaboration avec Codex pour produire sa propre preuve significative au cours d’un long week-end d’inférence.
Jeudi, OpenAI a retiré son parrainage d’un événement mathématique à CalTech suite aux critiques formulées par des chercheurs de l’université concernant les pratiques de l’entreprise. La lettre des mathématiciens souligne que, bien que la capacité de l’IA à s’attaquer à des défis mathématiques importants puisse bénéficier à l’humanité, ce potentiel dépend de la compréhension et de la communication des solutions au sein de la communauté mathématique et au-delà.
Dans la lettre, les signataires ont déclaré : « Souvent, ces solutions sont annoncées à la hâte, laissant peu de temps pour une écriture adéquate, l’isolation de nouvelles méthodes et idées, et la citation des travaux antérieurs pertinents d’autrui, » insistant sur le fait que la preuve d’OpenAI reste non vérifiée. Ils ont exprimé leur inquiétude quant aux problèmes graves d’attribution et de plagiat découlant de l’état actuel des solutions alimentées par IA. Les auteurs ont noté que le manque d’engagement des mathématiciens dans le développement et l’intégration des idées basées sur l’IA entraînerait finalement la perte de connexions essentielles au sein du domaine.
Une anxiété grandissante se fait sentir parmi les mathématiciens concernant l’influence de leur utilisation de Codex sur les nouveaux modèles d’OpenAI. Cette crainte s’étend à l’idée que la culture de la recherche ouverte pourrait être compromise, les laboratoires leaders pouvant investir des millions pour devancer les chercheurs originaux dans la quête de preuves. De telles dynamiques pourraient inciter au secret plutôt qu’au développement collaboratif.
Cette lettre s’appuie sur la Déclaration de Leiden, publiée par un groupe de travail de mathématiciens en juin, qui abordait les implications des preuves LLM pour leur travail et définissait des recommandations pour les mathématiciens, les institutions et les décideurs politiques. Comme dans l’ingénierie logicielle et d’autres domaines où l’IA façonne les flux de travail, les mathématiciens affirment que l’essence de leur discipline transcende de simples preuves et crédits. Le contexte intellectuel qui favorise de nouvelles enquêtes et intègre les découvertes dans le tissu de la société demeure crucial.
Enfin, la lettre souligne les implications plus larges pour l’humanité : « Les problèmes auxquels la communauté mathématique est confrontée aujourd’hui sont similaires à ceux que d’autres professions scientifiques et créatives rencontrent, et indiquent des enjeux que l’ensemble de l’humanité pourrait être amenée à affronter : comment s’assurer qu’à mesure que l’IA change la manière dont le travail est effectué, nous ne perdons pas de vue ce que ce travail était censé accomplir à la base. »
