Routeur de modèles

Un routeur choisit automatiquement, message par message, quel modèle doit répondre. Il permet de servir l'usage courant avec un modèle économique, tout en réservant un modèle plus puissant aux cas que vous décrivez.


À quoi ça sert

  • Réserver les modèles coûteux — un petit modèle traite le courant, un grand modèle les cas désignés par vos règles.
  • Gérer les capacités — les messages comportant une image vont vers un modèle qui sait les traiter ; une longue conversation, vers un modèle à grande fenêtre de contexte.
  • S'adapter à l'heure — un modèle différent en dehors des heures ouvrées.

Ce que le routeur ne fait pas. Il n'a aucun critère de confidentialité, de coût ni de délai : il ne connaît ni le caractère sensible d'un message, ni le prix d'un modèle, ni son temps de réponse. Il ne garantit pas qu'un message reste sur un modèle local. Et il ne bascule pas en cas de panne : si le modèle choisi est injoignable, le message échoue.


Fonctionnement

Un routeur comporte :

  • un modèle de repli, appelé « Prestataire principal et modèle » à la création et « Plan de secours » dans la liste — le modèle utilisé quand aucune règle ne s'applique. Il sert aussi à évaluer les règles par classification ;
  • une liste de règles, évaluées à chaque message ;
  • une durée d'adhérence, appelée « Durée de recharge » — la période pendant laquelle une conversation reste sur le modèle choisi. 30 secondes par défaut, 0 pour la désactiver.

À chaque message, le routeur évalue d'abord les règles calculées, puis les règles par classification. Si aucune ne correspond, l'adhérence s'applique tant qu'elle court ; sinon, le repli.

L'adhérence

Sans elle, une conversation rebondirait d'un modèle à l'autre au gré des messages, avec des ruptures de style et de cohérence.

Une fois qu'une règle a dirigé une conversation vers un modèle, celle-ci y reste pendant la durée configurée, même si les messages suivants ne correspondent plus à aucune règle. Chaque message renouvelle cette durée. C'est ce qui rend le routage utilisable dans une vraie discussion.

Une règle qui correspond l'emporte toujours sur l'adhérence.


Les deux types de règles

Règles calculées

Elles s'appuient sur des critères mesurables, évalués sans appel au modèle — donc instantanément et gratuitement.

Critère Exemples d'usage
Contenu demandé Contient un terme donné, ou correspond à une expression régulière
Nombre de jetons de conversation Au-delà d'un certain volume, basculer vers un modèle à grande fenêtre de contexte
Nombre de messages de conversation Après plusieurs échanges, changer de modèle
Heure actuelle (de 0 à 23) Un modèle différent la nuit, d'après l'heure du serveur. Le jour de la semaine n'est pas un critère
Possède une image associée Diriger vers un modèle multimodal

Comparateurs disponibles : contient et expression régulière pour le contenu ; égale à et n'est pas égal à ; pour les nombres, supérieur à, supérieur ou égal, inférieur à, inférieur ou égal, entre. Plusieurs conditions peuvent être combinées : elles doivent alors toutes être vraies.

« Contient » accepte une liste séparée par des virgules, sans tenir compte de la casse, et cherche une suite de lettres et non un mot entier : « test » correspond aussi à « contestation ».

Règles par classification

Libellé dans l'écran : Catégorisation LLM. Vous décrivez en langage naturel le type de message concerné, et le modèle de repli du routeur classe chaque message. Le message lui est donc transmis, quelle que soit la règle retenue ensuite.

Exemple de description : « Le message demande une analyse juridique approfondie, la comparaison de plusieurs contrats, ou la rédaction d'un document formel. »

Plus souple qu'une règle calculée, mais chaque classification a un coût. Une correspondance est donc mise en cache pendant la durée d'adhérence, et une absence de correspondance pendant 30 secondes, ce qui évite de reclasser chaque message d'une même conversation.


Configurer — administrateur

Réglages → Agent → Routeur de modèles.

  • Créer un routeur (Nouveau routeur) : nom, description, prestataire principal et modèle, durée de recharge.
  • Ajouter des règles, chacune avec son type, ses conditions et sa destination.
  • Affecter le routeur à un espace de travail, dans ses paramètres du chat — celui-ci n'utilise alors plus un modèle fixe, mais le routeur.

Un routeur peut aussi servir de fournisseur par défaut de l'instance : choisissez-le dans Réglages → Agent → Préférence LLM.


Exemples de configuration

Économiser sans dégrader

  • Repli : modèle local rapide.
  • Règle par classification : « Analyse complexe, raisonnement en plusieurs étapes, ou rédaction longue » → modèle puissant.
  • Règle calculée : conversation dépassant un volume important → modèle à grande fenêtre de contexte.

Limiter ce qui part vers un fournisseur externe

Le routeur n'est pas un contrôle de confidentialité. Une règle par mots-clés laisse passer tout message formulé autrement, une classification peut se tromper, et avec un repli externe chaque message à classer part déjà chez ce fournisseur. Si une donnée ne doit pas sortir, ne mettez pas de fournisseur externe dans le routeur de cet espace.

Pour réduire le risque sans l'écarter :

  • Repli : modèle local, pour que la classification reste locale.
  • Règle par classification : « Question de culture générale, sans donnée de client ni de personne » → fournisseur externe.

Pour pseudonymiser ce qui sort, activez le bouclier de données personnelles ; pour bloquer les sorties, le mode souverain en strict. → Sécurité et confidentialité

Gérer les images

  • Repli : modèle textuel.
  • Règle calculée : « Possède une image associée » égale à Vrai → modèle multimodal.

Points d'attention

Une règle mal écrite passe inaperçue. Un routeur qui n'oriente jamais rien se comporte comme un modèle unique, sans le signaler. Testez chaque règle après création.

L'ordre compte. Les règles calculées passent toujours avant les règles par classification. Au sein de chaque groupe, la première qui correspond l'emporte. Placez les plus spécifiques en premier.

Une classification coûte. Chaque classification est un appel supplémentaire au modèle de repli. Sur un routeur ne comportant que des règles par classification, le gain économique peut être annulé par le coût du classement.

L'adhérence est un compromis. Trop courte, la conversation change de modèle en cours de route ; trop longue, un message qui mériterait le grand modèle reste sur le petit. Quelques dizaines de secondes conviennent à la plupart des cas.

Prévenez les utilisateurs. L'interface signale le modèle retenu quand il change (« Dirigé vers… »), mais une réponse de qualité inégale d'un message à l'autre déroute si l'on ignore qu'un routeur est en place.