Architektur

WivenLLM besteht aus drei zusammenarbeitenden Diensten und aus austauschbaren Bausteinen, die am Hauptdienst angeschlossen sind. Diese Seite beschreibt das Ganze, ohne auf den Code einzugehen.


Die drei Dienste

┌──────────────┐      ┌──────────────────────────┐      ┌────────────────────────┐
│  Oberfläche  │─────▶│         Server           │─────▶│ Extraktionsdienst      │
│ (Browser     │◀─────│ API · KI-Orchestrierung  │◀─────│ Text aus Dateien       │
│  oder App)   │      │ DB · Sicherheit          │      │ und URLs               │
└──────────────┘      └───────────┬──────────────┘      └────────────────────────┘
                                  │
              ┌───────────────────┼───────────────────┐
              ▼                   ▼                   ▼
        ┌───────────┐       ┌────────────┐      ┌─────────────┐
        │  Modelle  │       │ Embeddings │      │   Vektor-   │
        │    LLM    │       │            │      │  datenbank  │
        └───────────┘       └────────────┘      └─────────────┘

Oberfläche

Die Anwendung, die Sie nutzen: Arbeitsbereiche, Gespräche, Dokumente, Administrationsbildschirme. Sie läuft in einem Browser oder in der Desktop-Anwendung, die sie enthält. Sie spricht nur mit dem Server.

Server

Das Herz des Produkts. Er trägt:

  • die API, die von der Oberfläche, dem Web-Widget, der mobilen App, der Browser-Erweiterung und Integrationen von Drittanbietern genutzt wird;
  • die Authentifizierung und die Rollen;
  • die KI-Orchestrierung: Wahl des Anbieters, Vektorsuche, Aufbau des Kontexts, Ausführung der Agenten;
  • die Datenbank (Arbeitsbereiche, Gespräche, Benutzer, Einstellungen);
  • die Hintergrundverarbeitung: Indexierung, Extraktion von Erinnerungen, Konsolidierung des Second Brain, geplante Aufgaben.

Auf dem Arbeitsplatz startet der Server auch die autonomen Agenten SEO-Audit und Akquise. Die mitgelieferte Serverkonfiguration deaktiviert sie.

Extraktionsdienst

Ein Dienst für eine einzige Aufgabe: eine Datei oder URL in nutzbaren Text umwandeln. PDF, Word, Tabellen, Präsentationen, E-Mails, E-Books, Bilder (Texterkennung), Audio und Video (Transkription), Webseiten, Code-Repositories, Unternehmens-Wikis.

Ihn vom Server zu trennen hat einen konkreten Nutzen: Ein schweres Dokument oder ein fehlerhaftes PDF wird in einem separaten Prozess verarbeitet, und sein Scheitern unterbricht Ihre Gespräche nicht.


Die austauschbaren Bausteine

Drei Komponentenfamilien wählt der Administrator, und sie lassen sich ersetzen, ohne den Rest anzufassen:

Baustein Rolle Standard
Sprachmodell (LLM) Verfasst die Antworten, steuert die Agenten Beim Onboarding zu wählen, lokales Modell möglich
Embedding-Engine Übersetzt Text in vergleichbare Vektoren Integrierte Engine, lokal ausgeführt
Vektordatenbank Speichert die Vektoren und findet nahe Passagen Integrierte lokale Datenbank, auf der Festplatte gespeichert

Zwei optionale Familien kommen hinzu: Bild- und Videogenerierung sowie Sprachsynthese und Spracherkennung.

→ Unterstützte Anbieter


Der Weg eines Dokuments

  • Ablage. Sie legen eine Datei in der Dokumentverwaltung eines Arbeitsbereichs ab oder geben eine URL an.
  • Extraktion. Der Extraktionsdienst erkennt das Format und extrahiert Text und Metadaten (Titel, Quelle, Datum, Autor, sofern vorhanden).
  • Bereitstellung. Der extrahierte Text wird als verfügbares Dokument gespeichert. Er ist noch nicht abfragbar.
  • Zerlegung. Beim Hinzufügen zu einem Arbeitsbereich wird der Text in Fragmente konfigurierbarer Grösse zerlegt, mit einer Überlappung zwischen den Fragmenten, damit Sätze an den Grenzen nicht zerrissen werden.
  • Vektorisierung. Jedes Fragment wird von der Embedding-Engine in einen Vektor umgewandelt.
  • Indexierung. Die Vektoren werden in die Vektordatenbank geschrieben, in einen eigenen Namensraum des Arbeitsbereichs.

Das Dokument ist dann abfragbar. Dasselbe Dokument kann mehreren Arbeitsbereichen hinzugefügt werden: Es wird nur einmal extrahiert, aber in jedem indexiert.

Eine direkt im Gespräch abgelegte Datei nimmt einen anderen Weg: Sie wird diesem Gespräch als Kontext angehängt, ohne über den Index des Bereichs zu gehen.


Der Weg einer Frage

  • Senden. Sie schreiben eine Frage in ein Gespräch. Ist die Inhaltskontrolle aktiviert, gelten ihre Regeln in diesem Moment.
  • Befehle. Beginnt die Nachricht mit einem Befehl (/reset, /image oder /img, /video, /note oder einem von Ihnen definierten Befehl), wird er vor allem anderen verarbeitet.
  • Agentenmodus. Beginnt die Nachricht mit @agent, oder ist der Bereich im Chatmodus Agent und kann das Modell Tools aufrufen, übernimmt der Agent, und der Ablauf wird zu dem der Agenten.
  • Suche. Ihre Frage wird vektorisiert und dann mit den Fragmenten des Bereichs verglichen. Die nächsten werden ausgewählt, im Rahmen der konfigurierten Anzahl Ergebnisse und Ähnlichkeitsschwelle.
  • Aufbau des Kontexts. Der Server stellt zusammen: den Systemprompt des Bereichs, die angehefteten Dokumente, die gefundenen Fragmente, Ihre Erinnerungen (falls aktiviert) und relevante Elemente des Second Brain, dann die letzten Nachrichten des Gesprächs.
  • Generierung. Das Ganze wird an das Modell gesendet, das fortlaufend antwortet: Der Text erscheint, während er entsteht. Ist der PII-Schutz aktiviert, werden Personendaten vor dem Versand durch Pseudonyme ersetzt und in der Antwort wiederhergestellt.
  • Wiedergabe. Die Antwort wird mit ihren Quellen im Verlauf gespeichert und unter der Nachricht angezeigt.

Wo die Daten gespeichert werden

Alles, was eine Installation erzeugt, liegt in einem einzigen Speicherverzeichnis:

  • die Datenbank der Anwendung;
  • die extrahierten Dokumente;
  • die Vektorindizes, wenn die Vektordatenbank lokal ist;
  • die heruntergeladenen Modelle, wenn Sie Modelle lokal ausführen;
  • die von den Agenten erzeugten Dateien;
  • das Audit-Protokoll und das Register der ausgehenden Verbindungen.

Eine Installation zu sichern heisst also, dieses Verzeichnis und die Konfigurationsdatei mit ihren Geheimnissen zu sichern, bei gestoppter Anwendung: Die Kopie einer laufenden Datenbank kann unbrauchbar sein. Ohne diese Geheimnisse werden die gespeicherten Anbieterschlüssel unlesbar.

→ Sicherheit und Vertraulichkeit


Was das Netzwerk verlässt, und wann

Situation Ausgehende Verbindung
Lokales Modell, native Embeddings, lokale Vektordatenbank Keine für Ihre Nachrichten und Dokumente
Externer Modellanbieter Nachrichten und Kontext gehen an diesen Anbieter
Gehostete Vektordatenbank Vektoren und Metadaten gehen an diesen Hoster
Agentenfähigkeit «Websuche» (zu aktivieren) Die Anfrage geht an die gewählte Suchmaschine
Import einer URL oder eines Repositorys Anfrage an die angegebene Adresse
Download eines lokalen Modells Einmal, beim Download
Integrierte Embedding-Engine Einmal, beim ersten Dokumentimport (rund 90 MB)
Desktop-Anwendung Prüfung auf Updates beim Start und dann alle 6 Stunden, ausser im souveränen Modus Strikt
Anonyme Telemetrie Keine, ausser ein Administrator aktiviert sie

Die Seite Datenschutz und Daten, unten im Einstellungsmenü, nennt Modellanbieter, Embedding-Engine und Vektordatenbank Ihrer Instanz. Die tatsächlichen Ausgänge sehen Sie unter Wiven-Konsole → Souveräner Modus:

  • Überwachung, die Standardeinstellung, erfasst jede externe Verbindung (Host, Adresse, Port, nie den Inhalt) und blockiert nichts;
  • Strikt blockiert alles, was nicht auf der Whitelist steht; die mitgelieferte Serverkonfiguration wendet diese Einstellung an. Denken Sie daran, dort zu erlauben, was Sie brauchen, etwa den Download eines Modells oder die Verbindung zu Outlook (siehe Installation);
  • Deaktiviert kontrolliert und erfasst nichts.

Diese Kontrolle betrifft die ausgehenden Verbindungen des Servers und des Extraktionsdienstes.


Governance, Compliance und Fachintegration

Die oben beschriebenen Dienste legen fest, wo die Verarbeitung läuft. Vier Schichten kommen hinzu, und sie machen im Betrieb den Unterschied.

Governance-Rollen

Drei Rollenstufen im Mehrbenutzermodus (Lizenz WivenLLM Business): Administrator, Manager, Benutzer. Dazu kommen Gäste, wenn der Gastzugang aktiviert ist, und zwei Rollen in einer Organisation: Administrator der Organisation und Mitglied.

Die Konten sind standardmässig lokal. Die Anmeldung kann über das bestehende Unternehmensverzeichnis laufen: Single Sign-on (Microsoft, Google, OIDC), Active Directory und Entra-Gruppen, die festlegen, wer sich mit welcher Rolle und wo anmeldet.

Jede Rolle öffnet einen eigenen Umfang an Arbeitsbereichen, Dokumenten und Einstellungen. Administratoren und Manager sehen alle Bereiche, ausser jene, die ihnen eine Chinese Wall verschliesst (Wiven-Konsole → Chinese Walls).

Nachvollziehbarkeit und revDSG

WivenLLM erzeugt kein Bearbeitungsverzeichnis: Es liefert Elemente, um es zu führen. Das Audit-Protokoll ist mit Zeitstempel versehen, im Mehrbenutzermodus namentlich und als CSV oder JSONL exportierbar. Der souveräne Modus erstellt einen signierten Monatsbericht der ausgehenden Verbindungen. Die Lösungen sind auf das revDSG ausgelegt; die Konformität einer Bearbeitung hängt auch von den Zwecken und dem Verzeichnis des Kunden ab, und Wiven begleitet in diesem Punkt, statt sie an seiner Stelle zu garantieren.

Umfang eines Agenten

Ein Agent arbeitet im Arbeitsbereich, in dem Sie ihn aufrufen, und fragt die Dokumente dieses Bereichs ab. Seine Fähigkeiten werden von einem Administrator für die ganze Instanz aktiviert, nicht Agent für Agent. Manche gehen über den Bereich hinaus: Gesprächssuche und Second Brain betreffen Ihre Daten in allen Ihren Bereichen. Die E-Mail- und Kalenderfähigkeiten nutzen nur die Konten der anfragenden Person, und Senden, Beantworten oder Löschen einer E-Mail verlangen jedes Mal eine Bestätigung.

Der Kunde entscheidet, was diesen Umfang verlässt: Im souveränen Modus Überwachung oder Strikt werden die von der Kontrolle erfassten externen Verbindungen protokolliert. Die Tabelle oben zeigt, Situation für Situation, was das auf Netzwerkebene umfasst.

Zu aktivierende Schutzfunktionen

Schutz Wo Standardzustand
PII-Schutz Wiven-Konsole → PII-Schutz Deaktiviert
Souveräner Modus Wiven-Konsole → Souveräner Modus Überwachung (Strikt in der mitgelieferten Serverkonfiguration)
Inhaltskontrolle Einstellungen → Sicherheit → Inhaltskontrolle Deaktiviert
Nicht belegte Aussagen Wiven-Konsole → Antwortkontrolle Deaktiviert
Freigegebene Modelle Wiven-Konsole → Freigegebene Modelle Nicht vorgeschrieben
Chinese Walls Wiven-Konsole → Chinese Walls Keine
KI-Transparenz Wiven-Konsole → KI-Transparenz Aktiv

Fachkonnektoren

Die Integration erfolgt mit den bereits vorhandenen Tools, ohne sie zu ersetzen. Version 1.17.2 liefert:

  • Dokumentquellen: Websites, Confluence, DrupalWiki, GitHub, GitLab, Gitea, Obsidian, Paperless-ngx, YouTube;
  • Agentenfähigkeiten: Outlook, Gmail, Google Kalender, Microsoft Teams (Verzeichnis, Verfügbarkeit, Tickets), SQL-Datenbanken (MySQL, PostgreSQL, SQL Server);
  • Erweiterungspunkte: Entwickler-API, MCP-Server, Agenten-Abläufe.

Die Anbindungen an Buchhaltungs-, ERP- und DMS-Software (Abacus, bexio, SAP…) werden von Wiven über diese Erweiterungspunkte umgesetzt.

→ Sicherheit WivenLLM · Integrationen