Lors d’une récente conférence pour développeurs, Box a présenté une nouvelle fonctionnalité intégrant le système d’embedding Nemotron d’Nvidia dans ses offres. Nommée Box Content Retrieval, cette innovation vise à améliorer l’efficacité des réponses aux requêtes en utilisant les métadonnées intégrées générées par Nemotron, rapporte 24brussels.
Box affirme que les utilisateurs bénéficieront de requêtes plus rapides, plus précises et plus économiques. Kari Briski, vice-présidente des logiciels d’intelligence artificielle générative chez Nvidia, a déclaré qu’elle anticipait que les requêtes seraient résolues quatre fois plus rapidement, avec une réduction des erreurs de 20 % et une diminution de 90 % de l’utilisation des jetons.
Ce système sera accessible à tous les clients Enterprise Advance de Box, avec un déploiement prévu pour le début de l’année prochaine.
Le PDG de Box, Aaron Levie, a commenté : « Cela augmente considérablement la pertinence de notre technologie de recherche pour les agents. Au lieu qu’un agent doive lire chaque document, nous pouvons renvoyer des extraits des documents les plus pertinents par rapport à la requête de l’utilisateur ou à la tâche que l’agent effectue. »
Cette fonctionnalité est une réalisation du projet Nemotron Embed d’Nvidia, qui fournit des modèles d’embedding à poids ouvert conçus pour améliorer les systèmes de récupération automatique. Ces modèles, qui utilisent de grands modèles de langage (LLMs) pour prétraiter les données, ont souvent été négligés par les grands laboratoires. Le récent intérêt d’Nvidia pour ce domaine comprend la sortie en juillet de Nemotron, qui a atteint la première position dans le classement RTEB pour la qualité de récupération.
Box indique que le système sera particulièrement bénéfique lorsqu’il sera utilisé avec des agents actifs, fournissant un exemple impliquant des avocats qui pourront identifier plus efficacement les clauses et les précédents pertinents grâce à cette nouvelle technologie. Étant donné que les embeddings de Nemotron vont au-delà des simples mots-clés pour relier des concepts sous-jacents, l’outil de recherche peut identifier des thèmes juridiques connexes, même lorsque des terminologies variées sont utilisées.
Malgré la disponibilité des modèles Nemotron, le système dépend fortement des métadonnées existantes de Box et des contrôles d’autorisation, compliquant les efforts de réplicabilité indépendante. Levie a remarqué : « Nous intégrons probablement cinq technologies différentes dans une API simple. »
L’introduction de la fonctionnalité Box Content Retrieval devrait constituer un élément clé de la stratégie de Box à l’avenir.
