En octobre 2023, plus d’un quart des requêtes vers le routeur de modèles d’IA de Vercel concernaient des modèles de prise de décision, plutôt que des LLM traditionnels. Il s’agit d’une avancée significative pour une technologie apparue seulement un mois auparavant. Les modèles de prise de décision sont, par essence, des LLM spécialisés qui ne génèrent pas de jetons de texte, mais choisissent rapidement et économiquement parmi des options prédéfinies, tout en évaluant leur niveau de confiance dans le choix. Leur valeur est particulièrement élevée dans les environnements de production, où la rapidité de décision est souvent plus importante que la justification détaillée offerte par des modèles « de pointe » plus lents et plus coûteux.
Le phénomène Jev : leader du marché et nouveaux acteurs
Domination du marché et croissance rapide
La société TypeSafe a atteint une capitalisation de 7,5 milliards de dollars grâce à sa gamme de modèles Jev, qui continuent de dominer le marché. Rien que la semaine dernière, le service OpenRouter a traité plus de 1,5 milliard de requêtes vers les modèles TypeSafe.
Cependant, la simplicité de création de tels modèles a conduit à l’apparition de dizaines d’analogues peu après le lancement de Jev. Un ingénieur d’Amazon a développé son propre modèle en un week-end, et bientôt chaque grand fournisseur de services cloud a proposé sa solution.
L’entrée des géants : Microsoft Decision-1.1
Récemment, le PDG de Microsoft, Satya Nadella, a annoncé le lancement immédiat de son propre modèle de prise de décision, Microsoft-Decision-1.1, pour une utilisation généralisée sur la plateforme Azure. Cela souligne l’importance stratégique de cette direction pour les géants de la technologie.
Innovations des startups : Sqwish et l’approche des données
Attraction d’investissements et offre unique
La startup britannique Sqwish, développeur du modèle de prise de décision kettei fat, a annoncé avoir levé 3 millions de dollars lors d’un tour de pré-amorçage. Les cofondateurs Ushnish Sengupta et Federica Freddy, qui se sont rencontrés pendant leurs études à Cambridge, développaient initialement de petits LLM, mais avec l’apparition de Jev, ils ont réalisé le potentiel de leurs architectures pour créer de puissants modèles de prise de décision.
Rôle des données et personnalisation
La clé du succès dans cette catégorie de modèles réside dans les données. Diogo Almeida, PDG de TypeSafe, a déclaré à TechCrunch que la partie la plus difficile de la création de Jev était la calibration fine de ses jugements à l’aide de données synthétiques statistiquement ajustées.
Sqwish travaille également avec des données synthétiques, mais leur proposition unique réside dans des outils de post-formation intégrés qui permettent aux clients d’utiliser leurs propres données pour améliorer la précision du modèle.
« Nous nous différencions de nos concurrents en offrant à nos clients la même puissance… ils peuvent continuer à télécharger leurs données de production, et de la même manière que nous avons entraîné nos modèles, leurs modèles peuvent également s’améliorer continuellement sur les tâches qui sont importantes pour eux », a noté Ushnish Sengupta, PDG de Sqwish, dans une interview avec TechCrunch.
Sélection et évaluation des modèles : ce qui compte vraiment
L’avantage des cas réels sur les benchmarks
L’évaluation des modèles de prise de décision n’est pas une tâche facile. Le modèle kettei fat de Sqwish a montré de bons résultats dans certains tests, mais la plupart des développeurs s’accordent à dire que l’efficacité réelle ne se manifeste que dans la pratique.
Les développeurs peuvent facilement remplacer un modèle par un autre pour évaluer son fonctionnement dans un contexte spécifique.

« Un benchmark est plus une invitation à essayer un modèle, et le réglage fin continu est la raison pour laquelle ils devraient rester avec nous », affirme Sengupta.
Le modèle Microsoft Decision 1.1 est également le résultat d’un équilibre minutieux entre coût, latence, intelligence et calibration. Achint Srivastava, vice-président de l’ingénierie, qui a dirigé le projet, convient qu’une attention excessive aux benchmarks est une erreur.
« Nous constatons que les modèles ‘maximally tested’ échouent très rapidement en utilisation réelle en entreprise », a écrit Srivastava dans un e-mail. « Nos tests soulignent à quel point il est difficile d’assurer la précision, la fiabilité, la vitesse et la rentabilité dans un seul modèle. Microsoft-Decision-1.1 et Jev sont parmi les rares à afficher des résultats élevés sur les quatre paramètres, même lors de l’évaluation sur des benchmarks ‘différés’ ou jamais vus auparavant, reflétant des scénarios d’utilisation réels. »
L’avenir des modèles de décision : symbiose avec les LLM
Pour les startups, comme Sqwish, la concurrence avec les géants ouvre de nouvelles opportunités. Freddy prédit qu’à l’avenir, les systèmes combineront « l’intelligence du Système Un » (modèles de décision) avec « l’intelligence du Système Deux » (LLM de pointe). Cela permettra de créer des solutions d’IA plus efficaces et multifonctionnelles. En savoir plus sur la promotion de contenu vidéo.
Foire aux questions
Que sont les modèles de prise de décision ?
Ce sont des modèles d’IA spécialisés, basés sur l’architecture LLM, mais optimisés pour choisir rapidement et économiquement parmi les options données au lieu de générer du texte. Ils évaluent également leur confiance dans la décision prise.
En quoi diffèrent-ils des LLM traditionnels ?
La principale différence réside dans l’objectif : les LLM génèrent du contenu, tandis que les modèles de prise de décision choisissent l’option optimale. Les premiers sont plus lents et plus gourmands en ressources, les seconds sont rapides et efficaces pour des tâches spécifiques.
Quel est le rôle de la personnalisation dans ces modèles ?
La personnalisation, c’est-à-dire la possibilité de réentraîner les modèles sur les propres données du client, devient un facteur clé de succès. Cela permet d’augmenter considérablement la précision et la pertinence des décisions dans des contextes commerciaux spécifiques.
Conclusion
Les modèles de prise de décision transforment rapidement le paysage de l’IA, offrant aux entreprises une vitesse et une efficacité sans précédent dans l’automatisation des opérations critiques. Si vous cherchez à optimiser vos processus et à réduire les « maux de tête » liés aux décisions routinières, ces technologies méritent une attention particulière.
Nous proposons une promotion complète via de courtes vidéos, y compris la création de contenu et son adaptation pour diverses plateformes, afin que vous puissiez vous concentrer sur les tâches stratégiques. Contactez-nous pour savoir comment nous pouvons vous aider à intégrer des solutions d’IA avancées dans votre stratégie de marketing vidéo et à commander tout en un seul endroit, en économisant votre budget et vos nerfs.
