Les récentes solutions mathématiques d’OpenAI suscitent des inquiétudes parmi les mathématiciens
OpenAI est sous surveillance cette semaine à la suite de la publication de centaines de solutions à des problèmes mathématiques difficiles, des détracteurs remettant en question l’authenticité et la compréhension derrière ces affirmations. Le groupe consultatif sollicité pour cette publication, composé de mathématiciens éminents, avait précédemment souligné l’importance de la compréhension humaine dans les résultats mathématiques.
Malgré ces efforts, les récentes productions d’OpenAI n’ont pas entièrement répondu aux attentes établies. Un nouvel article a mis en évidence des lacunes significatives entre les explications en langage naturel générées par les modèles d’OpenAI et les expressions formelles des solutions à un problème d’un million de dollars qu’ils affirment avoir résolu. Cela a suscité des alertes concernant la validité des affirmations faites par le laboratoire.
Le Groupe consultatif sur les mathématiques et l’intelligence artificielle (AGMAI), hébergé par l’Institut d’études avancées de l’Université de Princeton, comprend neuf chercheurs distingués provenant d’institutions du monde entier. En septembre, le groupe a publié des lignes directrices pour les laboratoires de pointe, y compris une demande de suspension des tests de problèmes mathématiques avancés sur des modèles propriétaires. Cependant, OpenAI a déclaré qu’il évaluait ses modèles propriétaires en utilisant des problèmes de recherche ouverts en mathématiques.
Bien qu’OpenAI semble avoir respecté certains principes de l’AGMAI—comme la publication rapide des résultats et la fourniture d’informations sur la manière dont les modèles ont atteint leurs conclusions—de nombreuses preuves ont été publiées sans explication adéquate. Seulement 10 des 719 manuscrits comprenaient des explications claires des processus de raisonnement des modèles. De plus, les mathématiciens ont noté que 42 % des preuves n’avaient pas été formalisées, contrairement aux recommandations de l’AGMAI.
Des inquiétudes persistent quant à savoir si OpenAI prend la responsabilité de garantir qu’une compréhension humaine accompagne ses preuves. L’AGMAI a suggéré qu’OpenAI devrait soutenir le travail des mathématiciens humains pour contextualiser et rendre ces solutions significatives. Terence Tao, un mathématicien renommé, a critiqué la situation, déclarant que les résolutions générées par l’IA manquent souvent de la profondeur d’engagement humain nécessaire pour un dialogue fructueux dans la communauté mathématique.
Les pièges potentiels de la résolution de problèmes par l’IA sont illustrés dans un article de mathématiciens de l’Université de Cambridge et du King’s College de Londres, qui examine comment les laboratoires de pointe abordent des défis complexes. Les résultats indiquent des écarts entre les preuves en langage naturel générées par l’IA et le code de programmation Lean conçu pour confirmer leur exactitude, en particulier concernant les solutions liées aux équations de Navier-Stokes, qui régissent la dynamique des fluides.
Bien que ces écarts ne n’invalident pas les solutions, ils cultivent le scepticisme quant à la fiabilité des approches pilotées par l’IA sans intervention humaine directe. L’AGMAI a exhorté OpenAI à incorporer des métadonnées lisibles par machine liant les sorties en langage naturel aux artéfacts formels, une directive qui n’a pas été respectée lors de la récente publication.
En résumé, la communauté académique souligne que les mathématiciens humains doivent s’engager dans de nouvelles découvertes, garantissant la responsabilité et favorisant l’apprentissage collaboratif à travers des publications, des discussions et des séminaires. Melanie Wood, professeur de mathématiques à l’Université de Harvard, a souligné que les solutions générées par l’IA manquent de compréhension humaine au moment de leur publication, mettant en lumière la nécessité d’un engagement humain supplémentaire pour saisir pleinement les implications de tels résultats.
