Le PDG de Y Combinator plaide en faveur de l’adoption de techniques de distillation par les laboratoires d’IA américains
Le PDG de Y Combinator, Garry Tan, a exprimé son souhait que les laboratoires d’IA américains utilisent des techniques de distillation pour extraire des connaissances des principaux créateurs de modèles, suggérant que les régulateurs devraient s’abstenir d’imposer des restrictions. Tan a articulé cette position lors d’une récente interview, mettant en avant qu’un régime de distillation aux États-Unis pourrait égaliser les chances face au développement de l’IA en Chine.
« Je ne ferais rien », a-t-il déclaré lors d’une conversation avec CNBC. « Nous pourrions soutenir qu’il devrait exister un régime de distillation américain. » Ce sentiment reflète la conviction de Tan que les petits laboratoires d’IA américains devraient adopter des méthodologies similaires à celles utilisées par les modèles d’IA de pointe, dans le but d’accroître la disponibilité des options à poids ouverts sur le marché américain.
La distillation implique de pousser un modèle à obtenir des informations d’un autre, une pratique considérée comme légitime par les laboratoires d’IA à des fins de formation. Cependant, des inquiétudes ont surgi concernant des laboratoires chinois qui auraient engagé des « attaques de distillation illicites », comme l’indique un rapport récent d’Anthropic. Ce rapport affirme que ces laboratoires dissimulent leur identité et utilisent des moyens frauduleux pour accéder aux modèles, suscitant des alertes au sein de la communauté de l’IA. Le PDG d’Anthropic, Dario Amodei, a déjà exhorté les régulateurs américains à intervenir contre de telles pratiques.
Malgré ces préoccupations, la réponse de Tan indique une divergence par rapport à l’état d’esprit réglementaire dominant. Il a précisé qu’il ne soutient ni ne cautionne les pratiques malveillantes, mais plaide pour la transparence et la coopération entre les laboratoires d’IA. « Contrôler ce que les utilisateurs et les clients font avec les appels API vers des modèles à poids fermés semble contraignant », a-t-il soutenu. Il considère qu’il devrait y avoir un aspect de bien public lié à l’intelligence formée sur des données largement accessibles, plutôt que d’être confiné derrière des conditions de service restrictives.
Tan a également souligné la nature propriétaire de nombreux modèles d’IA, qui ont accumulé d’énormes quantités de connaissances humaines, souvent sans avoir obtenu l’autorisation des détenteurs de droits de propriété intellectuelle. Il a mis en avant l’importance d’un équilibre entre les laboratoires d’IA à poids ouverts et les modèles de pointe pour favoriser l’innovation et garantir une concurrence équitable dans le paysage évolutif de l’IA.
En réfléchissant aux implications du monopole au sein de l’industrie de l’IA, Tan a exprimé ses préoccupations concernant la monopolisation des ressources technologiques par une seule entité. « Le scénario de cauchemar, le scénario pessimiste pour l’IA, c’est qu’il n’y ait qu’une seule entreprise », a-t-il averti, soulignant les risques associés à un pouvoir concentré au sein de systèmes propriétaires. Ses commentaires s’inscrivent dans le cadre des discussions en cours sur la nécessité de garantir la diversité et l’accessibilité sur le marché de l’IA.
