Baseten lance une norme de sécurité pour les modèles d’IA à poids ouverts
Baseten a introduit mercredi une nouvelle norme d’infrastructure de sécurité, en collaboration avec Hugging Face et Goodfire AI, afin d’établir une évaluation et un suivi de sécurité pour les modèles à poids ouverts. Cette initiative intervient au milieu des préoccupations croissantes concernant la sécurité de ces modèles, notamment en raison d’une technique émergente appelée « ablitération », qui peut supprimer les dispositifs de protection existants et constitue un enjeu majeur dans le domaine.
Hugging Face, qui héberge une vaste gamme de modèles d’IA open-source, compte actuellement plus de 6 000 modèles ablitérés, soulignant ainsi l’ampleur du défi. Le groupe de recherche récemment formé, Base Labs, a pour objectif de développer et de publier des méthodologies pour la formation et le suivi des modèles d’IA ouverts, positionnant son travail futur comme une norme exhaustive pour un déploiement sûr et transparent.
« Nous croyons que l’ouverture est un avantage pour la sécurité de l’IA », a déclaré Baseten sur X. L’entreprise a souligné que l’ouverture offre une visibilité cruciale sur le comportement des modèles, permettant ainsi aux recherches sur la sécurité de se traduire par des contrôles transparents et exploitables, au-delà de ce que peuvent offrir des alternatives à code fermé.
Bien que les détails techniques du partenariat n’aient pas été divulgués, Goodfire AI a insisté sur la nécessité d’intégrer la sécurité dans les modèles ouverts. Cette entreprise, connue pour sa capacité à améliorer la transparence des modèles d’IA, est bien placée pour soutenir cette initiative.
Baseten a récemment suscité une attention significative, ayant levé 1,5 milliard de dollars lors d’un tour de financement de Série F en juin, portant sa valorisation à 13 milliards de dollars. Goodfire AI a également franchi une étape importante avec un financement de série B de 150 millions de dollars, dirigé par B Capital, pour développer davantage sa plateforme d’interprétabilité des modèles.
Dans un effort de favoriser la collaboration, Baseten a lancé un appel ouvert à l’écosystème des développeurs pour contribuer à ce cadre de sécurité. « Ensemble, nous construisons un écosystème de modèles ouverts qui sont sûrs et accessibles à tous », a déclaré l’entreprise.
