Contrôle de contenu

Le contrôle de contenu applique des règles aux messages des utilisateurs et aux réponses de l'assistant. Il sert à faire respecter une politique interne : empêcher la saisie de données qui n'ont rien à faire dans une conversation, masquer des informations sensibles, écarter des sujets hors périmètre.

Fonction désactivée par défaut. Réglages → Contrôle de contenu.

Comment une règle est définie

Chaque règle comporte :

un nom, qui apparaît dans le suivi des infractions ;
un motif : soit une liste de termes séparés par des virgules, soit une expression régulière pour les cas structurés ;
une sensibilité à la casse, activable ;
une portée : les messages entrants, les réponses sortantes, ou les deux ;
une action.

Les actions

Bloquer. Le message est rejeté et un message d'explication est affiché. Rien n'est transmis au modèle.

Masquer. Les passages correspondants sont remplacés par une marque de masquage, et le traitement se poursuit. Utile pour laisser passer une question tout en retirant une donnée sensible.

Signaler. Le traitement se poursuit normalement, mais l'occurrence est enregistrée. Le bon mode pour tester une règle avant de l'appliquer réellement.

Écrire des règles utiles

Par liste de termes

Chaque terme est recherché comme un mot entier — un terme court ne déclenchera donc pas sur une syllabe à l'intérieur d'un autre mot. Un terme contenant des espaces est recherché comme une expression complète.

Convient au vocabulaire : noms de projets confidentiels, appellations internes, sujets hors périmètre.

Par expression régulière

Convient aux formats : numéros structurés, identifiants internes, références normalisées, adresses de messagerie d'un domaine donné.

Une expression invalide n'est pas appliquée. Testez vos motifs, et commencez par l'action Signaler pour observer ce qu'ils capturent réellement avant de bloquer.

Le message affiché

Un message par défaut explique qu'un contenu a été bloqué par la politique de l'organisation. Il est personnalisable au niveau de l'instance, et chaque règle peut en outre porter son propre message.

Écrivez-le pour un utilisateur, pas pour un administrateur. « Ce message contient une donnée qui ne doit pas être saisie ici. Contactez le service X pour la marche à suivre » est utile ; « Violation de la règle 7 » ne l'est pas.

Suivi des infractions

Chaque déclenchement est enregistré avec la règle concernée, l'utilisateur, la date et un court extrait de contexte — jamais le message entier.

Ce suivi permet de :

repérer une règle trop large qui gêne le travail ;
repérer une règle trop étroite qui laisse passer ce qu'elle devrait attraper ;
documenter les incidents.

Ce que le contrôle de contenu n'est pas

Ce n'est pas une protection contre l'exfiltration. Un utilisateur déterminé contourne un filtre par motifs. Le contrôle de contenu sert à empêcher les erreurs, pas les intentions.

Ce n'est pas une modération sémantique. Il fonctionne sur des motifs, pas sur le sens. Une formulation détournée passe.

Ce n'est pas un substitut aux droits d'accès. Ce qui ne doit pas être vu ne doit pas se trouver dans l'espace de travail. → Utilisateurs et rôles

Mise en place recommandée

Commencez par observer. Créez vos règles en action Signaler et laissez tourner quelques jours.
Analysez le suivi. Combien de déclenchements ? Légitimes ou faux positifs ?
Ajustez les motifs, puis passez en Masquer ou Bloquer.
Communiquez. Une règle de blocage inconnue des utilisateurs est vécue comme une panne.
Réexaminez périodiquement. Le vocabulaire d'une organisation évolue.