Installation

WivenLLM lässt sich auf drei Arten installieren. Die Anwendung ist in allen drei Fällen dieselbe; was sich ändert, ist, wer sie nutzen kann und wer sie betreibt.


Die richtige Variante wählen

Arbeitsplatz Server Gehostete Instanz
Für wen Eine Person Ein Team, ein Unternehmen Eine Organisation ohne verfügbares IT-Team
Mehrbenutzerbetrieb Nein Ja, mit der Lizenz WivenLLM Business Ja
Web-Widget, API Nur vom Rechner selbst erreichbar Ja Ja
Betrieb Keiner Bei Ihnen Wird für Sie übernommen
Daten Auf dem Arbeitsplatz Auf Ihrem Server Auf der dedizierten Instanz
Installation Rund fünfzehn Minuten (Entpacken) Ein halber Tag mit den Einstellungen Einsatzbereit geliefert

Der Mehrbenutzermodus schaltet Rollen, Einladungen, Organisationen und Gastzugang frei. Er gehört zum Angebot WivenLLM Business, auf Offerte; ohne diese Lizenz werden die Wahl «Mein Team» und die Aktivierung in den Einstellungen abgelehnt. Eine Lizenz umfasst eine Anzahl Plätze; Gäste verbrauchen keine. Eine Installation auf einem Arbeitsplatz bleibt Einzelbenutzer: Sie ist nur auf dem Rechner selbst erreichbar.

Manche Funktionen hängen von der Variante ab:

  • geplante Aufgaben funktionieren nur im Einzelbenutzermodus;
  • die Agentenfähigkeit, die Dateien liest und schreibt, ist nur auf dem Arbeitsplatz verfügbar;
  • die autonomen Agenten SEO-Audit und Akquise sind nicht Teil der Serverinstallation.

Arbeitsplatz

Eine native Anwendung. Sie enthält alles: Oberfläche, Server, Dokumentextraktion, Datenbank, Vektorindex.

System Paket Updates
Windows 10 / 11, 64 Bit Installationsprogramm .exe Automatisch, in der Anwendung
Red Hat 9 / Rocky 9, x86_64, mit grafischer Sitzung .rpm (oder AppImage) Unterstützt für das .rpm, automatisch für das AppImage
NVIDIA DGX Spark (arm64), mit grafischer Sitzung .deb (oder AppImage) Manuell: Paket neu installieren
macOS Noch nicht verfügbar —
  • Laden Sie die Anwendung für Ihr Betriebssystem herunter.
  • Installieren Sie sie. Unter Windows erfolgt die Installation pro Benutzer, ohne Administratorrechte; das Entpacken dauert 10 bis 15 Minuten, unterbrechen Sie es nicht. Auf einem verwalteten Arbeitsplatz lassen Sie die Installation von Ihrer IT freigeben und beantragen vor der Installation eine Virenschutz-Ausnahme.
  • Starten Sie sie: Der Einrichtungsassistent öffnet sich. Der erste Start kann einige Minuten dauern.

Netzwerkseitig ist nichts zu konfigurieren, kein Port zu öffnen. Die Daten werden in Ihrem Benutzerprofil gespeichert. Um sie zu sichern, beenden Sie die Anwendung und kopieren ihr Speicherverzeichnis. Eine Deinstallation lässt diese Daten bestehen.

Unter Windows misst die Anwendung, wenn Sie dies bei der Installation akzeptieren, Ihren Rechner, wählt ein passendes lokales Modell und lädt es beim ersten Start herunter. Eine Netzwerkverbindung ist daher einmal nötig, für dieses Modell und für die Embedding-Engine (rund 90 MB, beim ersten Dokumentimport).

Hardwarevoraussetzungen. Rechnen Sie mit rund 3 GB Speicherplatz für das Programm, zuzüglich Ihrer Dokumente und Modelle. Die Anwendung läuft auf einem gewöhnlichen Büro-PC, wenn Sie einen externen Modellanbieter nutzen. Um ein Modell lokal auszuführen, werden 16 GB Arbeitsspeicher empfohlen; eine dedizierte Grafikkarte verändert die Geschwindigkeit grundlegend. → Modelle wählen


Server: native Bereitstellung

Dies ist die für diese Version dokumentierte Bereitstellung: WivenLLM läuft als Dienst auf Windows Server.

Prinzip

  • Der Dienst startet mit dem Server und startet jede Komponente neu, die stoppt.
  • Programm und Daten sind getrennt. Das Datenverzeichnis enthält die Konfiguration und ihre Geheimnisse, die Datenbank, die Dokumente, die Vektoren und die Modelle. Ein Update ersetzt nur das Programm.
  • WivenLLM ist nur auf dem Server selbst erreichbar. Die Benutzer greifen in ihrem Browser über einen Reverse Proxy (IIS oder Caddy) zu, der HTTPS bereitstellt.

Voraussetzungen

  • Windows Server 2019 oder neuer (oder Windows 10/11).
  • PowerShell als Administrator gestartet.
  • Rund 3 GB für das Programm, zuzüglich Daten und Modelle.
  • Eine Virenschutz-Ausnahme für die Programm- und Datenverzeichnisse, vor der Installation zu beantragen: Ein Virenschutz kann das Kopieren blockieren und verlangsamt jeden Start.

Schritte

  • Die von Wiven für die Version gelieferten Server-Installationsdateien bereitstellen.
  • Das Installationsskript ausführen. Es kopiert das Programm, erstellt das Datenverzeichnis und eine Konfiguration mit generierten Geheimnissen, beschränkt den Zugriff auf diese Konfiguration, registriert den Dienst und wartet, bis WivenLLM antwortet. → Konfiguration der Instanz
  • Das Prüfskript ausführen: Es gibt 0 zurück, wenn alles antwortet, und kann daher von einem Überwachungstool genutzt werden.
  • Den Reverse Proxy vor den Dienst setzen, dann die HTTPS-Adresse in einem Browser öffnen und dem Einrichtungsassistenten folgen.
  • Die Lizenz WivenLLM Business installieren, falls sie noch nicht aktiv ist, und dann den Mehrbenutzermodus unter Einstellungen → Sicherheit aktivieren, wodurch das Administratorkonto erstellt wird. Anschliessend die Konten anlegen oder Einladungen versenden; die Windows-Konten des Unternehmens werden unter Wiven-Konsole → Active Directory angebunden.

Inbetriebnahme

Einige Punkte, die vor der Freigabe des Zugangs zu erledigen sind:

  • TLS. Mit IIS benötigen Sie URL Rewrite und Application Request Routing, ein Antwort-Timeout von mindestens 600 Sekunden, das WebSocket-Protokoll für die Agentensitzungen und Anfragen von mindestens 500 MB für Dokumente und Aufnahmen. Öffnen Sie in der Firewall nur den HTTPS-Port.
  • Sicherung. Das Sicherungsskript stoppt WivenLLM für die Dauer der Kopie und startet es dann neu; es lässt sich planen. Es kopiert Konfiguration, Datenbank, Dokumente und Vektoren, aber nicht die Modelle, ausser auf ausdrücklichen Wunsch. Bewahren Sie die Sicherung auf einem anderen Datenträger auf, denn sie enthält die Geheimnisse. Das Wiederherstellungsskript legt die vorhandenen Daten zuerst beiseite. Sie zu testen ist der einzige Weg, zu wissen, dass sie funktioniert.
  • Update. Ein Versionswechsel besteht darin, das Installationsskript mit der neuen Version erneut auszuführen: Der Dienst wird gestoppt, das Programm ersetzt, der Dienst neu gestartet, und Konfiguration und Daten bleiben erhalten. Sichern Sie vorher.
  • Geheimnisse. Bewahren Sie sie zusammen mit den Daten auf. Werden sie geändert, werden alle abgemeldet und die gespeicherten Anbieterschlüssel unlesbar.
  • Ausgehende Verbindungen. Die mitgelieferte Konfiguration setzt den souveränen Modus auf Strikt, ohne Möglichkeit, ihn in der Konsole zu lockern: Nichts verlässt das Netzwerk ausserhalb der Whitelist. Rechner im lokalen Netzwerk bleiben erreichbar. Planen Sie die Modell-Downloads ein und erlauben Sie die Microsoft-Hosts, wenn Sie Outlook anbinden. Um die Whitelist einer vorgegebenen Konfiguration zu ändern, folgen Sie dem mit der Installation gelieferten Verfahren oder kontaktieren Sie den Wiven-Support.
  • Dimensionierung. Die integrierte lokale Engine eignet sich für einen Pilotbetrieb, nicht für ein Team. Für ein Team binden Sie einen Modellserver an, der parallel auf der GPU antwortet (Ollama, vLLM oder den llama.cpp-Server), über seine OpenAI-kompatible API. Laufen die Modelle auf demselben Rechner, bestimmen sie den Bedarf an Arbeitsspeicher und GPU, nicht die Anwendung.
  • Embedding-Engine. Wählen Sie sie, bevor Sie irgendetwas importieren: Ein Wechsel leert den Index aller Arbeitsbereiche.

Gehostete Instanz

Für Ihre Organisation wird eine dedizierte Instanz bereitgestellt, mit demselben Produkt und denselben Funktionen. Sie erhalten eine URL und ein Administratorkonto; Betrieb, Sicherungen und Updates werden übernommen.

Diese Variante passt, wenn Datensouveränität gefordert ist, die Organisation die Infrastruktur aber nicht selbst betreiben möchte.


Nach der Installation

In dieser Reihenfolge:

  • Einrichtungsassistent: Wahl des Modellanbieters, Wahl zwischen «Nur ich» und «Mein Team», Übersicht zum Umgang mit den Daten. Die integrierte Embedding-Engine und die lokale Vektordatenbank werden automatisch eingerichtet, und ein erster Arbeitsbereich wird für Sie erstellt.
  • Erste Nutzung – ein Dokument importieren und eine erste Frage stellen.
  • Benutzer und Rollen – Umstellung auf Mehrbenutzerbetrieb und Anlegen der Konten.
  • Sicherheit und Vertraulichkeit – Überprüfung dessen, was das Netzwerk verlässt, Sicherungen, Zugriffskontrolle. Aktivieren Sie hier die Schutzfunktionen, die Sie brauchen: Mehrere sind standardmässig deaktiviert. Wiven-Konsole → Zustand der Installation prüft auf einen Schlag Start, Modell, Rechner, Dokumente, Verbindungen und Sicherheit.

Häufige Probleme beim Start

Symptom Übliche Ursache
Die Anwendung startet, aber die Oberfläche bleibt leer Die Oberfläche erreicht den Server nicht: Prüfen Sie den Dienst und den Reverse Proxy
Sehr langer erster Start Virenscan der installierten Dateien: Die Anwendung wartet bis zu 5 Minuten auf ihren Server. Wiven-Konsole → Zustand der Installation erkennt den Virenschutz, wenn er den Start verlangsamt
Anbieterfehler beim Senden einer Nachricht Der Assistent wurde nicht abgeschlossen, oder der Anbieterschlüssel fehlt oder ist ungültig
Die Dokumente werden importiert, sind aber nicht auffindbar Sie wurden extrahiert, ohne dem Arbeitsbereich hinzugefügt zu werden; erst das Hinzufügen löst die Indexierung aus
Die Antworten ignorieren ein hinzugefügtes Dokument Die Indexierung läuft noch, oder die Embedding-Engine wurde gewechselt: Dieser Wechsel entfernt die Dokumente aus allen Bereichen
Eine in der Oberfläche geänderte Einstellung springt auf ihren Wert zurück Auf einem Server hat ein Wert in der Konfigurationsdatei Vorrang vor der Oberfläche: Stellen Sie jeden Punkt nur an einem Ort ein
Ein Modell-Download oder eine Outlook-Verbindung schlägt auf einem Server fehl Der souveräne Modus Strikt blockiert sie: Erlauben Sie den Host in der Whitelist, gemäss dem Verfahren im Abschnitt Inbetriebnahme
Ein lokales Modell startet nicht Zu wenig Arbeitsspeicher für die gewählte Grösse → Modelle wählen