Unterstützte Anbieter
Massgebend für die in Ihrer Version verfügbaren Anbieter ist die Liste in den Einstellungsbildschirmen. Diese Seite gibt den Überblick für Version 1.17.2.
Sprachmodelle
Lokale Ausführung, von WivenLLM verwaltet
Integrierte Engine: ein Katalog offener Modelle, die die Anwendung selbst herunterlädt und ausführt, ohne externen Dienst. Das ist der einzige Fall, in dem WivenLLM den Lebenszyklus des Modells selbst verwaltet.
Lokale Inferenzserver
Die verbreitetsten Self-Hosting-Lösungen werden unterstützt, Modellserver für Arbeitsplatz wie für Server, einschliesslich der von Hardwareherstellern angebotenen Runtimes: namentlich Ollama, LM Studio, LocalAI, NVIDIA NIM und Microsoft Foundry Local. WivenLLM verbindet sich als Client damit.
Sonderfall: Jeder Server mit einer OpenAI-kompatiblen API kann mit dem generischen Konnektor deklariert werden, auch wenn er nicht namentlich in der Liste steht. Es genügt, seine Adresse anzugeben.
Kommerzielle Anbieter
Die grossen Modellanbieter werden unterstützt, ebenso die Cloud-Plattformen der wichtigsten Hoster und auf schnelle Inferenz spezialisierte Anbieter: namentlich OpenAI, Azure OpenAI, Anthropic, Google Gemini und Vertex AI, AWS Bedrock, Cohere, DeepSeek und Groq.
Aggregatoren
Auch Gateways, die hinter einem einzigen Schlüssel Zugang zu vielen Modellen geben, werden unterstützt, sodass sich das Modell ohne Konfigurationsänderung wechseln lässt: namentlich OpenRouter und LiteLLM.
Europäisches und Schweizer Hosting
Europäische Anbieter, darunter ein Schweizer Hoster (Infomaniak AI), gehören zu den Integrationen, ebenso Mistral: nützlich, wenn eine vollständig lokale Lösung nicht in Frage kommt, der Ort der Bearbeitung aber zählt. Prüfen Sie den Ort der Bearbeitung bei jedem Anbieter.
Embedding-Engines
Integriert (Standard) – läuft lokal, ohne Schlüssel. Das Modell wird bei der ersten Nutzung einmal heruntergeladen, danach verlässt nichts mehr das Haus. Standardmodell für Englisch ausgelegt; ein mehrsprachiges Modell wird angeboten.
Lokal – lokale Inferenzserver mit einem Embedding-Dienst können genutzt werden: namentlich Ollama, LM Studio und LocalAI.
Extern – die wichtigsten Embedding-Anbieter des Marktes werden unterstützt (namentlich OpenAI, Azure OpenAI, Gemini, Cohere, Mistral AI und Infomaniak AI), ebenso jeder Dienst mit einer OpenAI-kompatiblen API.
Zur Erinnerung: Ein Wechsel der Embedding-Engine setzt alle Indizes zurück und verlangt, die Dokumente jedem Bereich erneut hinzuzufügen. → Vektordatenbank und Embeddings
Vektordatenbanken
Integrierte lokale Datenbank (Standard) – auf der Festplatte gespeichert, keine Infrastruktur zu betreiben.
Selbst hostbare Datenbanken – namentlich Qdrant, Chroma, Weaviate, Milvus und PGVector, die Vektorerweiterung von PostgreSQL, womit sich eine bestehende Datenbank wiederverwenden lässt.
Verwaltete Dienste – namentlich Pinecone und Zilliz Cloud sowie die Cloud-Angebote der oben genannten Lösungen.
Ein verwalteter Dienst bedeutet, dass Ihre Vektoren und ihre Metadaten Ihren Umfang verlassen.
Bildgenerierung
Lokal – eine von WivenLLM verwaltete integrierte Engine sowie die verbreitetsten selbst gehosteten Bildgenerierungsserver: namentlich Automatic1111 und LocalAI.
Extern – die wichtigsten kommerziellen Bildgenerierungsdienste: namentlich OpenAI, Gemini, Stability AI und Infomaniak AI Tools.
Videogenerierung
Lokal – integrierte Engine oder selbst gehostete ComfyUI-Kette (LTX-2).
Diese Funktion ist deutlich anspruchsvoller an Hardware und Zeit als die Bildgenerierung.
Sprachsynthese
- Browserstimme (Standard): keine Konfiguration, nichts verlässt den WivenLLM-Server.
- Lokale Stimme in hoher Qualität, im Browser ausgeführt.
- Selbst gehostete Synthese-Engine.
- Externe Sprachsynthesedienste, darunter OpenAI und ElevenLabs, sowie jeder Dienst mit einer OpenAI-kompatiblen API.
Audiotranskription
Für importierte Audio- und Videodateien:
- Integrierte Engine (Standard): läuft lokal, ohne Schlüssel, Modell bei der ersten Nutzung heruntergeladen.
- Externe Transkriptionsdienste: OpenAI und jeder OpenAI-kompatible Dienst.
Spracherkennung
Für das Diktat im Chat:
- Lokales Whisper (Standard).
- Erkennung des Browsers, die das Audio in der Regel an den Browserhersteller überträgt.
- Eine Erkennungs-Engine auf Ihrem lokalen Server.
- Externe Dienste: OpenAI, Deepgram, Groq und jeder OpenAI-kompatible Dienst.
Suchmaschinen für die Agenten
Die zu aktivierende Websuche-Fähigkeit stützt sich auf eine zu wählende Suchmaschine. Die wichtigsten Such-API-Dienste werden unterstützt (namentlich Brave Search, Tavily, Exa, SerpApi, Bing Search und Perplexity), ebenso DuckDuckGo und die selbst hostbare Suchmaschine SearXNG, mit der sich die Websuche ohne Abhängigkeit von einem kommerziellen Dienst beibehalten lässt. Ist keine Suchmaschine gewählt, laufen die Anfragen über eine standardmässige öffentliche Suchmaschine.
Wählen: die entscheidende Frage
Für jeden Baustein bestimmt eine einzige Frage die Wahl:
Akzeptiere ich, dass diese Daten meinen Umfang verlassen?
| Baustein | Was bei einem externen Anbieter hinausgeht |
|---|---|
| Sprachmodell | Die Nachrichten und der Dokumentkontext |
| Embedding-Engine | Der Text aller indexierten Dokumente |
| Vektordatenbank | Die Vektoren und ihre Metadaten |
| Transkription | Die Audiodateien |
| Sprachsynthese | Der Text der Antworten |
| Bildgenerierung | Die Beschreibungen |
| Websuche | Die Suchanfragen |
Die Zeile der Embedding-Engine wird am häufigsten vergessen, und sie legt am meisten Inhalt offen.

Français