Gespräche
Diese Seite beschreibt die Einstellungen, die bestimmen, wie der Assistent antwortet, und die konkrete Wirkung jeder einzelnen.
Gesprächsmodi
Der Modus wird in den Einstellungen des Bereichs gewählt, Registerkarte Chat-Einstellungen.
Chat (Standard)
Das Modell nutzt Ihre Dokumente und sein Allgemeinwissen. Findet es im Bereich nichts Relevantes, antwortet es trotzdem aus seinem Wissen, ohne dies anders als durch fehlende Quellen kenntlich zu machen.
Für: allgemeine Unterstützung, Verfassen von Texten, Brainstorming, Fragen, die Dokumente und Allgemeinwissen verbinden.
Abfrage
Das Modell antwortet nur, wenn der Bereich ihm Kontext liefert. Wird nichts gefunden, gibt es eine Ablehnungsmeldung zurück, statt zu antworten.
Für: Kundendossiers, regulatorische Korpora, technische Dokumentation, also jede Nutzung, bei der eine erfundene Antwort schlimmer wäre als keine.
Zwei Grenzen, die Sie kennen sollten:
- Die Ablehnung greift nur, wenn gar kein Kontext vorhanden ist. Ein angeheftetes Dokument, ein Anhang im Faden oder eine früher im Gespräch zitierte Passage genügen, um eine Antwort auszulösen, auch wenn die neue Frage nichts damit zu tun hat.
- Sobald Kontext geliefert wird, hindert technisch nichts das Modell daran, sein Allgemeinwissen hinzuzufügen. Für eine strikte Nutzung sagen Sie dies auch im Systemprompt und prüfen Sie die Quellen.
Die Ablehnungsmeldung ist anpassbar. Standardmässig besagt sie, dass keine relevante Information gefunden wurde; Sie können sie durch eine auf Ihre Benutzer zugeschnittene Formulierung ersetzen («Diese Information ist nicht im Dossier enthalten. Wenden Sie sich an die zuständige Person.»).
Agent
Unterstützen Modell und Anbieter natives Function Calling, wird jede Nachricht einem Agenten übergeben, der selbst entscheidet, ob er Tools nutzt. Andernfalls verhält sich der Bereich wie im Chatmodus, und der Agent bleibt über das Präfix @agent erreichbar.
Für Bereiche vorbehalten, die der Automatisierung dienen. Dieser Modus ist langsamer und unberechenbarer als die beiden anderen und setzt ein Modell voraus, das Tools zuverlässig steuern kann. Für einen gelegentlichen Einsatz der Agenten nutzen Sie lieber das Präfix @agent in einem Bereich im Chatmodus.
Wartet der Agent auf Ihre Antwort, zeigt dies die Leiste unter dem Eingabefeld an: Er wartet 5 Minuten, dann endet die Sitzung, und er sagt es.
Der Systemprompt
Das ist der stärkste Hebel der Anwendung: die dauerhaften Vorgaben, die dem Modell vor jeder Nachricht übermittelt werden.
Ein guter Systemprompt legt fest:
- die Rolle: «Du unterstützt die Mitarbeitenden eines Schweizer Treuhandbüros.»;
- den Bezugsrahmen: welche Regeln, welches Recht, welche Methode gelten;
- das erwartete Verhalten bei Unsicherheit: «Wenn die Information nicht in den Dokumenten steht, sag es ausdrücklich. Leite keine Beträge ab.»;
- das Format: Länge, Struktur, Antwortsprache;
- die Verbote: was der Assistent niemals tun darf.
Beispiel:
Du unterstützt die Mitarbeitenden eines Treuhandbüros. Du antwortest ausschliesslich auf Grundlage der Dokumente des Kundendossiers. Steht die Information nicht darin, sag das klar, ohne Annahmen zu treffen. Nenne immer das Dokument und das Datum des verwendeten Belegs. Berechne nie einen Betrag, der nicht ausdrücklich in einem Beleg steht. Antworte auf Deutsch, knapp und sachlich.
Verlangen Sie darin keine Seitenzahl: Das Modell erhält sie nicht und könnte eine erfinden.
WivenLLM fügt seine eigenen Vorgaben an Ihren Prompt an: eine Vermutung nicht als Tatsache darstellen, sagen, was fehlt, und in der Sprache der letzten Benutzernachricht antworten.
Ein Standard-Systemprompt kann auf Instanzebene festgelegt werden (Einstellungen → Standard-Systemprompt): Er gilt für neue Bereiche, ohne jene zu überschreiben, die einen eigenen haben.
Der Systemprompt akzeptiert Variablen: Datum, Uhrzeit, Name des Benutzers, Name des Bereichs sowie selbst definierte. → Befehle und Variablen
Temperatur
Steuert, wie unvorhersehbar die Antworten ausfallen. Bleibt das Feld leer, gilt der Standardwert des Anbieters.
| Wert | Verhalten | Einsatz |
|---|---|---|
| 0 – 0,3 | Deterministisch, sachlich, wiederholbar | Dokumente, Recht, Buchhaltung |
| 0,4 – 0,7 | Ausgewogen | Allgemeine Nutzung |
| 0,8 und mehr | Abwechslungsreich, kreativ, weniger zuverlässig | Texte verfassen, Ideenfindung |
Für eine dokumentbasierte Nutzung ist ein tiefer Wert fast immer vorzuziehen: Zweimal dieselbe Frage soll dieselbe Antwort ergeben.
Verlaufslänge
Einstellung Chatverlauf: die Anzahl früherer Austausche (eine Frage und ihre Antwort), die bei jeder Frage an das Modell zurückgesendet werden. Standardwert: 20. Mindestwert: 1.
- Höher: Der Assistent folgt einer langen Diskussion besser, aber jede Nachricht kostet mehr Kontext, also mehr Zeit und bei einem externen Anbieter mehr Geld.
- Tiefer: schnellere und günstigere Antworten, auf Kosten einer schwächeren Gesprächsführung.
Nützlicher Hinweis: Einen neuen Faden zu eröffnen ist oft besser, als den Verlauf zu kürzen. Um in einem Faden bei null zu beginnen, verwenden Sie /reset. → Arbeitsbereiche
Einstellungen der Dokumentsuche
Einstellungen des Bereichs, Registerkarte Vektordatenbank.
Anzahl gefundener Fragmente
Einstellung Maximale Anzahl Kontexte: wie viele Passagen abgerufen und dem Modell geliefert werden. Standard: 4.
- Erhöhen verbessert die Abdeckung bei breiten Fragen, auf Kosten von verbrauchtem Kontext und möglichem Rauschen.
- Senken konzentriert die Antwort auf die relevantesten Passagen.
Bei langen Dokumenten und übergreifenden Fragen ergeben 6 bis 10 oft ein besseres Ergebnis. Darüber hinaus wird der Kontext überlastet.
Ähnlichkeitsschwelle
Der minimale Grad an Nähe, den ein Fragment erreichen muss, um berücksichtigt zu werden. Die Einstellung bietet vier Werte. Standard: Niedrig.
| Wahl | Schwelle | Wirkung |
|---|---|---|
| Keine Einschränkung | 0 | Alles wird gefunden; Rauschen gelangt in den Kontext |
| Niedrig | ≥ 0,25 | Übliches Gleichgewicht |
| Mittel | ≥ 0,50 | Passagen, die näher an der Frage liegen |
| Hoch | ≥ 0,75 | Nur sehr nahe Passagen werden gefunden; Gefahr, nützliche Passagen auszuschliessen |
Symptom und Abhilfe: «Er findet es nicht, obwohl es dasteht» → Schwelle senken. «Er zitiert Passagen ohne Bezug» → Schwelle erhöhen.
Suchpräferenz
Mit der integrierten lokalen Vektordatenbank bietet die Einstellung der Suchpräferenz zwei Werte: den Standardwert, der am schnellsten ist, und eine auf Genauigkeit optimierte Suche, die die Ergebnisse neu ordnet, bevor sie an das Modell gehen: Die Antworten brauchen etwas länger, dafür sind die Passagen relevanter. Mit einer anderen Datenbank erscheint die Einstellung nicht.
Die Suche bleibt in beiden Fällen semantisch: Eine Stichwortsuche gibt es nicht. Eine exakte Referenz (Artikelnummer, Produktcode) kann daher schlechter gefunden werden als eine vollständige Formulierung.
Was das Modell genau sieht
Bei jeder Frage enthält der zusammengestellte Kontext in dieser Reihenfolge:
- den Systemprompt des Bereichs, mit aufgelösten Variablen, gefolgt von den Vorgaben von WivenLLM;
- Ihre relevanten Erinnerungen und gegebenenfalls Elemente des Second Brain;
- die angehefteten Dokumente, vollständig;
- die dem Faden angehängten Dateien;
- die von der Suche gefundenen Fragmente, bei Bedarf ergänzt durch bereits im Faden zitierte Passagen;
- die letzten Austausche des Fadens;
- Ihre Frage.
All das muss in das Kontextfenster des Modells passen. Ist es voll, wird zuerst der Verlauf gekürzt, wobei die jüngsten Austausche erhalten bleiben; reicht das nicht, werden Systemprompt und Dokumentkontext in der Mitte abgeschnitten. In einem gewöhnlichen Gespräch wird dies nicht angezeigt; daher ist es wichtig, nicht alles anzuheften und einen Faden nicht endlos weiterzuführen.
Bei Modellen, die diese Zahlen mitteilen, etwa lokalen Modellen, zeigt eine Leiste unter dem Eingabefeld die Füllung des Kontexts an und gibt an, wann ältere Nachrichten gekürzt oder zusammengefasst wurden, damit alles passt.
Quellen und Überprüfung
Jede auf Ihren Dokumenten aufgebaute Antwort zeigt ihre Quellen: den Titel des Dokuments, den verwendeten Auszug und seinen Ähnlichkeitswert, nie Seite oder Abschnitt. Damit können Sie:
- prüfen, ob die Antwort auf der richtigen Passage beruht;
- ein Suchproblem diagnostizieren: Auszüge ohne Bezug deuten auf eine zu überprüfende Schwelle oder Zerlegung hin;
- zur Quelle zurückgehen: ein Link bei einer Webseite oder einem Konnektor; bei einer importierten Datei verweist der Titel auf Ihre eigene Kopie, da das Original nicht aufbewahrt wird.
Eine Antwort ohne angezeigte Quelle wurde nicht auf für diese Frage gefundenen Passagen aufgebaut: Entweder hat die Suche nichts berücksichtigt, oder das Modell hat aus seinem Allgemeinwissen geantwortet (Chatmodus), oder es stützte sich auf früher im Faden zitierte Passagen, die nicht erneut angezeigt werden. Umgekehrt beweist eine angezeigte Quelle nicht, dass jeder Satz aus dem Dokument stammt.
Ein Administrator kann in der Antwortkontrolle der Administrationskonsole eine Zeile «Zu prüfen» am Ende von dokumentgestützten Antworten aktivieren (standardmässig deaktiviert). Sie markiert Zahlen und Sätze, die in keiner Passage enthalten sind. Das ist eine Kontrolle von Wörtern und Zahlen, kein Beweis für Richtigkeit.
Im Gespräch
- Denkaufwand – sofern das Modell es erlaubt, stellt eine Schaltfläche im Eingabefeld den Aufwand für diesen Faden ein, in Ihrem Browser. Für andere ändert sich nichts.
- Gespräch exportieren – über das Einstellungsmenü des Gesprächs.
Einen Bereich einstellen: drei Profile
| Profil | Modus | Temperatur | Fragmente | Schwelle |
|---|---|---|---|---|
| Strikt dokumentbasiert: Dossiers, Regulierung | Abfrage | 0 – 0,2 | 6 – 10 | Niedrig oder Mittel |
| Allgemeine Unterstützung | Chat | 0,5 – 0,7 | 4 | Niedrig |
| Explorative Suche in grossem Korpus | Chat | 0,3 | 8 – 12 | Keine Einschränkung oder Niedrig |

Français