Routeur de modèles

Un routeur choisit automatiquement, message par message, quel modèle doit répondre. Il permet de servir l'usage courant avec un modèle économique, tout en réservant un modèle plus puissant aux cas qui le justifient.

À quoi ça sert

Maîtriser le coût — un petit modèle traite les questions simples, un grand modèle les analyses complexes.
Préserver la confidentialité — les échanges touchant à des sujets sensibles restent sur un modèle local ; le reste peut aller vers un fournisseur externe.
Gérer les capacités — les messages comportant une image vont vers un modèle qui sait les traiter.
S'adapter au moment — un modèle différent en dehors des heures ouvrées.

Fonctionnement

Un routeur comporte :

une destination de repli — le modèle utilisé quand aucune règle ne s'applique ;
une liste de règles, évaluées à chaque message ;
une durée d'adhérence — la période pendant laquelle une conversation reste sur le modèle choisi.

Quand une règle correspond, son modèle prend la main. Sinon, le repli s'applique.

L'adhérence

Sans elle, une conversation rebondirait d'un modèle à l'autre au gré des messages, avec des ruptures de style et de cohérence.

Une fois qu'une règle a dirigé une conversation vers un modèle, celle-ci y reste pendant la durée configurée, même si les messages suivants ne correspondent plus à aucune règle. C'est ce qui rend le routage utilisable dans une vraie discussion.

Les deux types de règles

Règles calculées

Elles s'appuient sur des critères mesurables, évalués sans appel au modèle — donc instantanément et gratuitement.

Critère	Exemples d'usage
Contenu du message	Contient un terme donné, ou correspond à un motif
Taille de la conversation	Au-delà d'un certain volume, basculer vers un modèle à grande fenêtre de contexte
Nombre de messages	Après plusieurs échanges, changer de modèle
Heure courante	Un modèle différent la nuit ou le week-end
Présence d'une image	Diriger vers un modèle multimodal

Comparateurs disponibles : contient, correspond à, supérieur, supérieur ou égal, inférieur, inférieur ou égal, égal, différent, compris entre. Plusieurs conditions peuvent être combinées.

Règles par classification

Vous décrivez en langage naturel le type de message concerné, et un modèle léger classe chaque message.

Exemple de description : « Le message demande une analyse juridique approfondie, la comparaison de plusieurs contrats, ou la rédaction d'un document formel. »

Plus souple qu'une règle calculée, mais chaque classification a un coût. Le résultat est donc mis en cache pendant la durée d'adhérence, ce qui évite de reclasser chaque message d'une même conversation.

Configurer — administrateur

Réglages → Routeurs de modèles.

Créer un routeur : nom, description, destination de repli, durée d'adhérence.
Ajouter des règles, chacune avec son type, ses conditions et sa destination.
Affecter le routeur à un espace de travail — celui-ci n'utilise alors plus un modèle fixe, mais le routeur.

Un routeur peut aussi être désigné comme routeur par défaut de l'instance.

Exemples de configuration

Économiser sans dégrader

Repli : modèle local rapide.
Règle par classification : « Analyse complexe, raisonnement en plusieurs étapes, ou rédaction longue » → modèle puissant.
Règle calculée : conversation dépassant un volume important → modèle à grande fenêtre de contexte.

Protéger le sensible

Repli : fournisseur externe performant.
Règle calculée : le message contient des termes marquant la confidentialité → modèle local.
Règle par classification : « Le message porte sur des données personnelles, médicales ou financières nominatives » → modèle local.

Gérer les images

Repli : modèle textuel.
Règle calculée : présence d'une pièce jointe image → modèle multimodal.

Points d'attention

Une règle mal écrite passe inaperçue. Un routeur qui n'oriente jamais rien se comporte comme un modèle unique, sans le signaler. Testez chaque règle après création.

L'ordre compte. Les règles sont évaluées dans l'ordre ; la première qui correspond l'emporte. Placez les plus spécifiques en premier.

Une classification coûte. Chaque classification est un appel supplémentaire. Sur un routeur ne comportant que des règles par classification, le gain économique peut être annulé par le coût du classement.

L'adhérence est un compromis. Trop courte, la conversation change de modèle en cours de route ; trop longue, un message qui mériterait le grand modèle reste sur le petit. Quelques dizaines de secondes conviennent à la plupart des cas.

Prévenez les utilisateurs. Une réponse de qualité inégale d'un message à l'autre déroute si l'on ignore qu'un routeur est en place.