Was ist WivenLLM

WivenLLM ist eine vollständige Anwendung für künstliche Intelligenz, die bei Ihnen installiert wird. Sie vereint in einer einzigen Oberfläche:

  • einen Chat, der mit Ihren Dokumenten verbunden ist, mit Quellenangabe;
  • Agenten, die Aktionen in Ihren Tools ausführen können;
  • eine Administration für Organisationen: Benutzer, Rollen, Protokolle, Nutzungskontrolle;
  • eine offene Verbindungsschicht: lokale oder Cloud-Modelle, Vektordatenbanken, Fachkonnektoren, API.

Der Unterschied in einem Satz: Engine, Index und Dokumente bleiben dort, wo Sie sie abgelegt haben. Trennen Sie die Internetverbindung, und eine vollständig lokal konfigurierte Installation läuft weiter, sobald das Modell und die Embedding-Engine heruntergeladen sind.


Was WivenLLM konkret tut

1. Es liest Ihre Dokumente und antwortet Ihnen

Sie legen Dateien in einem Arbeitsbereich ab. WivenLLM wandelt sie in Text um, zerlegt sie in Fragmente, berechnet ihre Vektordarstellungen (Embeddings) und speichert sie in einer Vektordatenbank.

Wenn Sie eine Frage stellen, findet es die Fragmente, die Ihrer Frage am nächsten sind, gibt sie dem Sprachmodell als Kontext und zeigt die Antwort mit den verwendeten Quellenauszügen an: Titel des Dokuments und Auszug, ohne Seiten- oder Abschnittsnummer. Dieser Mechanismus heisst RAG (Retrieval-Augmented Generation).

Die unterstützten Formate reichen von PDF über Tabellen, E-Mails und E-Books bis zu Bildern (per Texterkennung) und Audio (per Transkription). → Dateiformate

2. Es handelt, statt nur zu antworten

Wenn Sie in einem Gespräch @agent eingeben, übergeben Sie an einen Agenten: ein Modell, das Fähigkeiten (Tools) aufrufen darf. Der Chatmodus Agent eines Arbeitsbereichs tut dasselbe ohne den Befehl, wenn das Modell Tools aufrufen kann. Es kann im Web suchen, Dateien lesen und schreiben (auf dem Arbeitsplatz), eine SQL-Datenbank abfragen, eine E-Mail vorbereiten, einen Kalender einsehen, ein Diagramm erstellen, ein Bild generieren.

Der Administrator aktiviert die Fähigkeiten für die ganze Instanz, unter Einstellungen → Agent → Fähigkeiten des Agenten; diese Wahl erfolgt nicht pro Arbeitsbereich. Bei der Installation sind nur einige Fähigkeiten aktiv, die auf dem Rechner bleiben: Gedächtnis, Dokumentzusammenfassung, Gesprächssuche, Second Brain. Fähigkeiten, die das Netzwerk oder ein Konto erreichen, müssen aktiviert werden. → Agenten

3. Es passt sich Ihrer Organisation an

Ein Administratorkonto konfiguriert die Modellanbieter, die Vektordatenbank, die Benutzer und ihre Rollen, die Inhaltsregeln und das Erscheinungsbild der Anwendung. Die Benutzer sehen eine einfache Oberfläche: Arbeitsbereiche, Gespräche, Dokumente. Konten und Rollen setzen den Mehrbenutzermodus voraus, der in der Lizenz WivenLLM Business enthalten ist.


Was WivenLLM unterscheidet

Online-KI-Dienste WivenLLM
Wo Ihre Dokumente liegen Auf der Infrastruktur des Anbieters Auf Ihrer
Wo das Modell läuft Beim Anbieter Wo Sie es entscheiden: Arbeitsplatz, Server, Rechenzentrum oder externer Anbieter, wenn Sie das wählen
Funktioniert offline Nein Ja, in vollständig lokaler Konfiguration, sobald die Modelle heruntergeladen sind
Wahl des Modells Vom Anbieter vorgegeben Frei, und pro Arbeitsbereich änderbar
Protokollierung Beschränkt auf das, was der Anbieter offenlegt Lokal: Ereignisprotokoll und verkettetes Audit-Protokoll, das Änderungen sichtbar macht
Kosten nach Nutzung Nach Token-Volumen verrechnet Null bei lokaler Nutzung; nach Nutzung nur, wenn Sie einen kostenpflichtigen Anbieter anbinden

Einsatzarten

WivenLLM wird auf drei Arten eingesetzt, mit derselben Anwendung. Die verfügbaren Funktionen hängen von der Einsatzart und der Lizenz ab:

Arbeitsplatz. Eine native Anwendung für Windows 10/11, Red Hat 9 / Rocky 9 und NVIDIA DGX Spark; die macOS-Version ist noch nicht verfügbar. Die Anwendung enthält das Programm und speichert Index und Dokumente in Ihrem Profil; das lokale Modell wird beim ersten Start heruntergeladen, wenn Sie zustimmen. Geeignet für einen einzelnen Benutzer, ohne Netzwerkadministration.

Server der Organisation. Eine native Installation als Dienst auf Windows Server, hinter einem Reverse Proxy. Zusammen mit der Lizenz WivenLLM Business aktiviert diese Einsatzart den Mehrbenutzermodus und die Rollen; sie macht auch das Web-Widget und die API von anderen Rechnern aus erreichbar. Geeignet für ein Team oder ein Unternehmen.

Gehostete Instanz. Eine dedizierte Instanz in einem Rechenzentrum, für Sie betrieben. Dasselbe Produkt, ohne Betriebsaufwand.

→ Installation


Was WivenLLM nicht ist

Eine ehrliche Dokumentation nennt auch die Grenzen:

  • Es ist kein Sprachmodell. WivenLLM ist die Anwendung, die Modelle orchestriert; die Qualität der Antworten hängt direkt vom gewählten Modell und der Hardware ab, auf der es läuft.
  • Es ist keine erschöpfende Suchmaschine. Die Dokumentsuche ist semantisch: Sie findet die relevanten Passagen, nicht die Gesamtheit eines Bestands. Für Fragen wie «Liste mir alle Verträge mit X auf» müssen die Suchparameter angepasst werden. → Gespräche
  • Es ist keine Garantie für Richtigkeit. Ein Sprachmodell kann sich irren. Die Quellenangaben sind genau dafür da, die Prüfung zu ermöglichen; sie ersetzen sie nicht.
  • Es ist nicht von Haus aus geschützt. Der Schutz von Personendaten und die Inhaltskontrolle sind standardmässig deaktiviert; der souveräne Modus protokolliert ausgehende Verbindungen, ohne sie zu blockieren, solange er nicht auf Strikt gestellt ist. → Architektur
  • Vollständig lokal hat Hardwarekosten. Ein schnelles und gutes lokales Modell braucht Speicher und idealerweise eine Grafikkarte. → Modelle wählen

Nächster Schritt