Ollama Artikel 05 von 08

Mit Open WebUI verbinden

Ollama als Backend für eine Chat-Oberfläche: Modelle im Browser nutzen, Verbindung prüfen und im Heimnetz erreichbar machen.

Hier verbindest du Ollama mit Open WebUI, damit lokale Modelle komfortabel im Browser nutzbar werden. Nach dem Modellvergleich wird die Bedienung komfortabler. Das Terminal ist praktisch, aber für längere Gespräche oder den täglichen Einsatz will man eine richtige Oberfläche. Open WebUI ist eine Web-App die Ollama als Backend nutzt und sich wie ChatGPT anfühlt, aber komplett lokal läuft.

Ich nutze Open WebUI täglich als Hauptzugangspunkt zu meinen lokalen Modellen. Die Einrichtung dauert wenige Minuten wenn Docker bereits installiert ist.

Was Open WebUI bietet

Chat-Oberfläche

Mehrere Gespräche parallel, Verlauf gespeichert, Markdown-Darstellung.

Modell wechseln

Per Dropdown zwischen allen installierten Ollama-Modellen wechseln.

System-Prompts

Eigene Assistenten mit festen Anweisungen erstellen und speichern.

Dokumente hochladen

PDFs und Texte direkt in den Chat laden und vom Modell analysieren lassen.

Mehrere Nutzer

Eigene Accounts für verschiedene Personen im Heimnetz.

Bildgenerierung

Optional mit ComfyUI oder AUTOMATIC1111 verbinden.

Installation mit Docker

Der einfachste Weg ist Docker. Ollama muss bereits laufen. Dann reicht ein einziger Befehl:

docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Danach ist Open WebUI unter http://localhost:3000 erreichbar. Beim ersten Aufruf legst du einen Admin-Account an.

Kein Docker?

Open WebUI lässt sich auch direkt über Python installieren: pip install open-webui und dann open-webui serve. Das braucht Python 3.11 und läuft auf demselben Port 8080. Für die meisten ist Docker aber der unkompliziertere Weg.

Ollama verbinden

In der Regel erkennt Open WebUI Ollama automatisch wenn beide auf demselben Rechner laufen. Falls nicht, trägst du die Adresse manuell ein:

Einstellungen öffnen

Oben rechts auf dein Profilbild klicken, dann "Admin Panel" und "Connections".

Ollama-Adresse eintragen

Standard ist http://host.docker.internal:11434 wenn du Docker nutzt. Auf direkter Installation: http://localhost:11434.

Verbindung prüfen

Auf "Verify Connection" klicken. Grüner Haken bedeutet: alle installierten Modelle sind jetzt im Dropdown auswählbar.

Im Netzwerk verfügbar machen

Open WebUI läuft per Default nur auf dem lokalen Rechner. Wenn du es auch von anderen Geräten im Heimnetz erreichen willst, ändere beim Docker-Start den Port-Mapping auf die lokale IP:

-p 0.0.0.0:3000:8080

Danach ist Open WebUI unter http://192.168.x.x:3000 von jedem Gerät im Netz erreichbar. Die IP-Adresse deines Rechners findest du mit ip a auf Linux oder ipconfig auf Windows.

Mein Setup

Open WebUI läuft bei mir als Docker-Container auf meinem Linux-Server und ist im ganzen Heimnetz erreichbar. Ich greife vom Laptop, vom iPad und vom Handy darauf zu. Kein Abo, kein Internet nötig, keine Datenweitergabe. Für mich ist das der Hauptgrund warum ich lokale KI so schätze.

Aus eigener Praxis

In der Praxis trenne ich Ollama als Modell-Dienst und Open WebUI als Oberflaeche gedanklich sauber. Wenn etwas nicht funktioniert, prüfe ich erst Ollama allein und danach die Verbindung aus Open WebUI.

Der nächste sinnvolle Schritt

Wenn du diesen Teil verstanden hast, passen diese Seiten als Nächstes:

Häufige Fragen

Warum Open WebUI zusätzlich zu Ollama?

Ollama liefert Modelle und API. Open WebUI ergänzt Chat-Verlauf, Oberfläche, Modellwahl, Prompts, Dokumente und Benutzer.

Muss Open WebUI im Docker-Container laufen?

Nicht zwingend, aber Docker ist ein sauberer Weg, Daten, Updates und Betrieb reproduzierbar zu halten.

Was prüfe ich bei Verbindungsproblemen?

Prüfe, ob Ollama läuft, ob Open WebUI die richtige Ollama-URL nutzt und ob Container den Host oder Servicenamen erreichen.

Zurück: Modelle vergleichen Weiter: Ollama-API nutzen