Nouveau modèle d’IA pour la modération en temps réel dévoilé par Musubi
Musubi a lancé un nouveau modèle de décision d’IA pour la modération de contenu en temps réel. Ce modèle, nommé PolicyLM-1.7B, a été récemment annoncé avec l’objectif d’améliorer l’efficacité de la modération de contenu sur les plateformes de médias sociaux.
Ce modèle innovant permet aux utilisateurs d’implémenter une politique de contenu rédigée en anglais simple pour évaluer les messages en moins de 50 millisecondes. Conçu pour égaler le coût et la rapidité des systèmes de classification d’IA traditionnels qui modèrent actuellement le contenu, PolicyLM-1.7B présente l’avantage supplémentaire de la flexibilité, similaire à celle des modèles de langage modernes (LLM). Notamment, le modèle ne nécessite pas de réentraînement lors des changements de politique, permettant ainsi aux rédacteurs de politiques humaines d’effectuer des mises à jour fréquentes.
Filip Jankovic, co-fondateur et directeur de l’IA chez Musubi, souligne que ce développement offre aux gestionnaires de plateformes une solution proactive de labellisation pour leur contenu. « Les équipes produits souhaitent simplement mieux comprendre ce qui se passe sur leur plateforme, surtout que le volume de contenu augmente de manière exponentielle », déclare Jankovic. « Pouvoir labelliser tout cela de manière très évolutive et personnalisable est extrêmement utile. »
La montée des modèles de décision a récemment gagné en ampleur sur le paysage de l’IA, notamment suite à l’introduction de Jev de Typesafe AI en septembre. D’autres entreprises, dont OpenAI et Amazon, ont depuis développé des modèles similaires. Contrairement aux modèles conventionnels qui génèrent du texte, les modèles de décision comme PolicyLM-1.7B se concentrent sur la production de probabilités d’issue pour un contenu spécifique, fournissant ainsi un jugement binaire : soit le contenu respecte les critères de politique définis, soit il ne les respecte pas. Cette approche ciblée améliore la rapidité et réduit les coûts par rapport aux modèles de langage plus larges, tout en tirant parti des avantages de l’architecture des transformateurs.
Une application de tels modèles de décision consiste à traiter les comportements inappropriés des agents IA, rendant leur extension à la modération des comportements humains une progression logique.
Fait intéressant, l’engagement de Jankovic avec les modèles de décision précède la tendance actuelle. Son intérêt remonte à un projet de 2024 appelé GLiNER (Modèle généraliste pour la reconnaissance d’entités nommées), qui employait des techniques similaires.
Musubi se réjouit des comparaisons avec d’autres modèles de décision, positionnant PolicyLM-1.7B comme un outil spécialisé spécifiquement conçu pour la modération de contenu. « Si Jev a attiré votre attention, PolicyLM-1.7B est le même type de modèle, formé spécifiquement pour la modération de contenu, que vous pouvez exécuter vous-même », a noté la société dans son annonce.
