Open WebUI mit Ollama: Leitfaden complet

#Warum Open WebUI

Open WebUI (ehemals Ollama WebUI) hat sich zum Standard-Frontend für selbst gehostete LLMs entwickelt. Es ist eine Open-Source-Webanwendung (mit permissiver Lizenz), die nativ mit Ollama kommuniziert, aber auch mit jedem OpenAI-kompatiblen Endpunkt – LM Studio, vLLM, llama.cpp server oder sogar über einen OpenAI-Schlüssel, wenn Sie einen haben.

Vertraute Benutzeroberfläche

Seitenleiste mit Chatverlauf, zentraler Chatbereich, Modellauswahl oben. Wer schon einmal ChatGPT geöffnet hat, findet sich in 30 Sekunden zurecht.

Integriertes RAG

Ziehen Sie eine PDF-, .docx-, .md- oder .txt-Datei in die Unterhaltung: Open WebUI zerlegt sie in Chunks, erstellt daraus Embeddings und verwendet sie als Kontext. Sie müssen keinen RAG-Stack von Hand aufbauen.

Native Multi-User-Funktionalität

Lokale Konten, Rollen admin/user/pending, manuelle Freigabe von Registrierungen. Ideal für ein Team oder eine Familie.

100 % offline nach der Installation

Der Container, die UI und die Modelle laufen auf Ihrer Maschine. Keine obligatorische Telemetrie, keine Ausgangsverbindungen, wenn Sie OpenAI/HuggingFace in den Einstellungen blockieren.

Erweiterbar

Python-Pipelines (Funktionen, Filter, benutzerdefiniertes RAG), MCP-Tools, Integration der Websuche (SearXNG, Tavily), TTS/STT, Bildgenerierung über ComfyUI oder Automatic1111.

#Voraussetzungen

Ollama installiert und funktionsfähig

Der Daemon muss unter http://localhost:11434 lauschen. Prüfen Sie dies mit curl http://localhost:11434/api/tags — Sie müssen eine JSON-Antwort erhalten (leer oder mit Ihren Modellen).

Docker Desktop oder Docker Engine

Windows/macOS: Docker Desktop. Linux: docker-ce über den Paketmanager Ihrer Distribution. Compose v2 ist enthalten.

2 GB freier RAM

Open WebUI selbst benötigt wenig Speicher (200–400 MB). Den größten Teil des RAM/VRAM belegt Ollama, das die Modelle lädt.

Ein bereits heruntergeladenes Ollama-Modell

Wenn die Liste leer ist, vor dem Start ollama pull qwen3.5:4b oder ollama pull granite4.2:8b ausführen – sonst gibt es in der Benutzeroberfläche nichts auszuwählen.

#1. Docker-Installation mit einem einzigen Befehl

Das offizielle Image ist in der GitHub Container Registry veröffentlicht. Ein einziger Befehl genügt, um Open WebUI zu starten und automatisch mit Ihrem lokal betriebenen Ollama zu verbinden.

docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

docker run -d `
  -p 3000:8080 `
  --add-host=host.docker.internal:host-gateway `
  -v open-webui:/app/backend/data `
  --name open-webui `
  --restart always `
  ghcr.io/open-webui/open-webui:main

Schauen wir uns die Flags genauer an. Jedes erfüllt einen bestimmten Zweck:

-p 3000:8080

Open WebUI lauscht im Container auf Port 8080. Dieser wird auf Port 3000 Ihres Rechners bereitgestellt. Sie können über http://localhost:3000 darauf zugreifen.

--add-host=host.docker.internal:host-gateway

Unter Linux unverzichtbar: Damit kann der Container über den Hostnamen host.docker.internal auf Ollama zugreifen, das außerhalb von Docker läuft. Unter Windows/macOS richtet Docker Desktop dies bereits ein.

-v open-webui:/app/backend/data

Benanntes Volume, das den Gesprächsverlauf, die Benutzerkonten und die indexierten Dokumente dauerhaft speichert. Ohne dieses Volume geht beim Neustart des Containers alles verloren.

--restart always

Der Container startet beim Hochfahren des Rechners automatisch neu. Open WebUI wird zu einem dauerhaft laufenden Dienst.

ghcr.io/open-webui/open-webui:main

Tag main = neueste stabile Version. Um eine Version festzuschreiben, verwenden Sie :v0.5.0 (oder die jeweils aktuelle Release). Machen Sie sich im Produktionsbetrieb nicht von main abhängig.

#2. Erste Anmeldung und Admin-Konto

Sobald der Container gestartet ist, rufen Sie die unten stehende URL in Ihrem Browser auf.

http://localhost:3000

1. 01
   Erstellen eines Admin-Kontos

   Beim ersten Start fordert Open WebUI Sie auf, ein Konto zu erstellen. Der allererste registrierte Benutzer wird automatisch Administrator. E-Mail, Passwort – alles bleibt lokal im Docker-Volume.
2. 02
   Prüfen Sie die verfügbaren Modelle

   Im Auswahlmenü oben auf dem Bildschirm sollten Ihre Ollama-Modelle erscheinen. Wenn die Liste leer ist, schlägt die Verbindung zu Ollama fehl (siehe Abschnitt 3 unten).
3. 03
   Starten Sie einen Testdialog

   Wählen Sie ein Modell aus und geben Sie eine Nachricht ein. Wenn die Antwort als Stream eintrifft, ist alles verbunden. Öffnen Sie andernfalls Settings > Admin Panel > Connections zur Fehlerdiagnose.

#3. Open WebUI mit Ollama verbinden

In 95 % der Fälle erfolgt die Verbindung automatisch über host.docker.internal. Falls dies nicht der Fall ist, finden Sie hier die Anleitung, um sie manuell zu aktivieren.

Gehen Sie zu Settings (Symbol unten links) > Admin Panel > Connections > Ollama API. Geben Sie die URL ein:

http://host.docker.internal:11434

Klicken Sie auf die Testschaltfläche (Aktualisierungssymbol neben dem Feld). Eine grüne Anzeige bestätigt die Verbindung. Die Liste Ihrer Modelle wird sofort neu geladen.

Um in der CLI zu überprüfen, ob Ollama tatsächlich von außerhalb des Containers erreichbar ist:

# Depuis l'hôte
curl http://localhost:11434/api/tags

# Depuis le conteneur Open WebUI (Linux)
docker exec -it open-webui curl http://host.docker.internal:11434/api/tags

#4. RAG mit Ihren Dokumenten in 2 Minuten

Das ist wahrscheinlich die Funktion, die schon allein die Installation rechtfertigt. Open WebUI enthält eine vollständige RAG-Pipeline: Textextraktion (PDF, DOCX, MD, TXT, HTML, Quellcode), Chunking, Embeddings, Vektorsuche, Einbindung in den Kontext.

#Methode 1: Dateianhang bei Bedarf

Klicken Sie in einer Unterhaltung auf das Büroklammersymbol (oder geben Sie # ein, um die indexierten Dokumente zu durchsuchen). Wählen Sie eine Datei aus – sie wird innerhalb weniger Sekunden eingelesen, in Abschnitte zerlegt und in Embeddings umgewandelt. Das Modell kann nun Fragen zu ihrem Inhalt beantworten.

#Methode 2: Knowledge (persistente Wissensbasis)

Für die regelmäßige Nutzung – interne Dokumentation, Wissensdatenbank, Projektarchive – erstellen Sie eine Wissenssammlung („Knowledge“). Workspace > Knowledge > Create Knowledge. Geben Sie ihr einen Namen (z. B. „Produktdokumentation“), laden Sie Ihre Dokumente gesammelt hoch und verknüpfen Sie die Sammlung über Workspace > Models mit einem benutzerdefinierten Modell.

Standard-Chunking

1000 Zeichen mit einer Überlappung von 100 Zeichen. Anpassbar unter Settings > Documents. Für dichten technischen Text reduzieren Sie die Werte auf 500/50. Für erzählende Texte bleiben Sie bei 1500/200.

Top K

Anzahl der Chunks, die dem Modell übergeben werden. Standardwert: 4. Erhöhen Sie den Wert bei übergreifenden Fragen auf 6–8 und senken Sie ihn wieder auf 2–3, wenn sich das Modell verzettelt.

Hybride Suche

Auf derselben Seite aktivierbar. Kombiniert die lexikalische Suche mit BM25 und Vektorähnlichkeit. Unverzichtbar für Abfragen mit exakten technischen Begriffen (Produktreferenzen, Eigennamen, Codes).

#5. Mehrbenutzerbetrieb und Authentifizierung

Open WebUI verwaltet drei Rollen: admin (voller Zugriff), user (Chat + eigene Wissenssammlungen), pending (Konto erstellt, aber noch nicht freigegeben). Das System ist so konzipiert, dass ein Admin kontrolliert, wer Zugang zur Instanz erhält.

1. 01
   Kontrollierte Registrierung aktivieren

   Admin Panel > Settings > General. Setzen Sie Default User Role auf 'pending'. Jede neue Registrierung erfordert Ihre manuelle Freigabe unter Admin Panel > Users.
2. 02
   Benutzer erstellen

   Ihre Kollegen rufen http://votre-ip:3000 auf und erstellen ein Konto. Sie sehen die Anfrage unter Admin Panel > Users und genehmigen sie mit einem Klick. Ihre Kollegen können sich anschließend anmelden.
3. 03
   Den Zugriff auf Modelle pro Benutzer beschränken

   Workspace > Models > wählen Sie ein Modell aus > Visibility. Sie können ein Modell öffentlich oder privat machen oder es nur bestimmten Nutzern zugänglich machen (nützlich für ein feinabgestimmtes Modell mit sensiblen Inhalten).
4. 04
   HTTPS erzwingen, wenn die Instanz öffentlich zugänglich ist

   Open WebUI übernimmt TLS nicht selbst. Schalten Sie Caddy, Traefik oder nginx vor den Container. Machen Sie Open WebUI ohne HTTPS nicht außerhalb Ihres LAN zugänglich – die Passwörter werden im Klartext übertragen.

#Open WebUI vs Msty vs LobeChat

Drei ausgereifte Benutzeroberflächen teilen sich 2026 den Markt. Hier erfahren Sie, wie Sie je nach Ihrem Profil zwischen ihnen wählen.

Open WebUI

Am umfassendsten und am besten erweiterbar. RAG, Python-Pipelines, Mehrbenutzerbetrieb, MCP, Websuche. Erfordert Docker. Ideal, wenn Sie EINE Oberfläche für ein ganzes Team möchten.

Msty

Natives Desktop-App (Win/Mac/Linux), null Docker, Installation in 1 Klick. Hervorragende UX für den Einzelgebrauch. Integriertes RAG ebenfalls. Weniger erweiterbar als Open WebUI. Ideal für einen Entwickler oder Neugierigen, der schnell testen möchte.

LobeChat

Stärker auf einen „optischen ChatGPT-Klon“ ausgerichtet. Ansprechend gestaltet, mit Plugins und einem Marktplatz für Agenten. Die Unterstützung mehrerer Anbieter ist sehr gut umgesetzt. RAG ist weniger umfassend. Ideal, wenn Sie zwischen lokalem Ollama und mehreren APIs (OpenAI, Anthropic, Mistral Cloud) wechseln.

Kurzes Fazit

Einzelnutzung + eigener Rechner: Msty. Team + dedizierter Server: Open WebUI. Power-User, die ein ansprechendes Frontend für mehrere Anbieter möchten: LobeChat.

#Fehlerbehebung

Leere Liste von Modellen

Open WebUI erreicht Ollama nicht. Prüfen Sie: (1) ollama list zeigt tatsächlich Modelle an, (2) curl http://localhost:11434/api/tags antwortet, (3) unter Linux ist OLLAMA_HOST=0.0.0.0:11434 korrekt gesetzt. Testen Sie die URL unter Admin Panel > Connections.

Fehler 502 Bad Gateway

Der Container startet nicht richtig. docker logs open-webui zeigt die Ursache. Häufige Gründe: ein schreibgeschützt eingebundenes Volume, ein bereits belegter Port 3000 oder ein Konflikt mit einer vorherigen Instanz (docker rm -f open-webui ausführen und anschließend erneut starten).

Niedrige Tokenrate (Tokens/s)

Der Engpass liegt bei Ollama, nicht bei Open WebUI. ollama ps muss 100 % GPU anzeigen. Wenn CPU-Nutzung oder nur teilweise GPU-Nutzung angezeigt wird, passt das Modell nicht vollständig in den VRAM – wechseln Sie zu einer speichersparenderen Quantisierung (Q4_K_M statt Q5_K_M).

Nicht indexierte Dokumente

Beim ersten Upload wird das Embedding-Modell (1–2 GB) heruntergeladen; das kann eine Weile dauern. Sehen Sie sich die Logs mit docker logs open-webui an. Prüfen Sie auch, ob die Datei die maximale Größe überschreitet (einstellbar unter Settings > Documents > Max Upload File Size).

Aktualisierung

docker pull ghcr.io/open-webui/open-webui:main puis docker stop open-webui && docker rm open-webui et relancez la commande run d'origine. Le volume open-webui:/app/backend/data préserve vos données.

Sicherung

docker run --rm -v open-webui:/data -v $(pwd):/backup alpine tar czf /backup/openwebui-backup.tar.gz -C /data . erstellt ein Archiv Ihres gesamten Verlaufs, Ihrer Konten und Ihrer Wissensdatenbanken. Vor jedem größeren Update durchführen.

#Weiterführende Informationen

Wenn Open WebUI installiert und mit Ollama verbunden ist, verfügen Sie über einen vollständigen lokalen KI-Arbeitsplatz. Einige passende nächste Schritte:

RAG verbessern

Die integrierte RAG-Funktion von Open WebUI ist durchaus solide. Für große Dokumentenkorpora oder anspruchsvollere Suchanfragen zeigt jedoch die ChromaDB-RAG-Anleitung dieser Website, wie Sie eine eigene Pipeline aufbauen, die leistungsfähiger ist und sich gezielter anpassen lässt.

Die richtige Quantisierung wählen

Standardmäßig Q4_K_M, doch je nach verfügbarem VRAM fällt der Kompromiss anders aus. Der Quantisierungsleitfaden zu Q4/Q5/Q8 erläutert die Größenordnungen – oft entscheidend dafür, ob Sie ein 14B-Modell betreiben können oder bei einem 7B-Modell bleiben müssen.

Mit anderen Frontends vergleichen

Wenn Sie noch zwischen Open WebUI, LibreChat, AnythingLLM und SillyTavern schwanken, finden Sie im Vergleichsleitfaden zu Chat-Frontends deren jeweilige Stärken auf einer Seite.