Installation mit Docker
Ollama als Backend, Open WebUI als Docker-Container: installieren, Daten behalten und den ersten lokalen Chat öffnen.
Hier installierst du Open WebUI mit Docker und bereitest eine stabile Verbindung zu Ollama vor. Nach der Einordnung kommt das Setup. Die Installation besteht aus zwei Teilen. Zuerst Ollama, das Programm das die KI-Modelle auf deinem Rechner ausführt. Dann Open WebUI, die Oberfläche mit der du mit diesen Modellen sprichst. Beide laufen danach dauerhaft im Hintergrund und starten automatisch wenn du sie brauchst.
Was ist Docker?
Docker ist ein Werkzeug das Programme in abgeschlossenen Containern verpackt und ausführt. Ein Container hat alles was das Programm braucht dabei und läuft auf jedem System gleich. Du musst keine Abhängigkeiten von Hand installieren, kein Aufräumen wenn du das Programm nicht mehr willst.
Open WebUI wird als Docker-Container betrieben. Das ist der einfachste und sauberste Weg. Für Ollama gibt es eine eigene native Installation, die auf allen Systemen ähnlich funktioniert.
Schritt 1: Ollama installieren
Ollama ist das Fundament. Es verwaltet die KI-Modelle und stellt sie als lokalen API-Server bereit. Open WebUI verbindet sich damit.
Ein einziger Befehl installiert Ollama und richtet es als Dienst ein:
Ollama startet danach automatisch als systemd-Service. Prüfen ob es läuft: ollama list
Ollama für Mac als App herunterladen von ollama.com/download. Öffnen, in den Programme-Ordner ziehen, starten. Ollama läuft danach als Menüleisten-App im Hintergrund.
Ollama-Installer für Windows von ollama.com/download herunterladen und ausführen. Ollama startet danach als Hintergrunddienst automatisch mit Windows.
Test in der PowerShell: ollama list
Jetzt ein erstes Modell herunterladen. Ich empfehle für den Start ein kompaktes Modell:
Das lädt das Gemma 4 4B-Modell von Google herunter, rund 3 GB. Gute Qualität, schnell auch ohne GPU.
Schritt 2: Docker installieren
Nach dem usermod-Befehl ab- und wieder anmelden damit die Gruppe aktiv wird.
Docker Desktop für Mac von docker.com herunterladen und installieren. Die App öffnen und im Hintergrund laufen lassen. Danach ist der docker Befehl im Terminal verfügbar.
Docker Desktop für Windows von docker.com herunterladen. WSL 2 wird beim Setup automatisch eingerichtet wenn nötig. Nach der Installation Docker Desktop starten, danach funktioniert docker in der PowerShell.
Schritt 3: Open WebUI starten
Jetzt kommt Open WebUI. Dieser Befehl lädt das Image herunter und startet den Container. Er verbindet Open WebUI automatisch mit dem lokal laufenden Ollama:
Was die Optionen bedeuten: -d läuft im Hintergrund, --network=host erlaubt die Verbindung zu Ollama, -v speichert Daten dauerhaft, --restart always startet Open WebUI automatisch nach einem Neustart.
Auf Mac und Windows funktioniert --network=host nicht. Stattdessen diese Variante verwenden:
Erster Start
http://localhost:8080. Auf Mac/Windows mit der zweiten Variante: http://localhost:3000.gemma4:e4b heruntergeladen ist, erscheint es automatisch in der Liste.Aus eigener Praxis
Bei Open WebUI ist das Volume für mich Pflicht. Ohne dauerhaftes Datenverzeichnis sind Benutzer, Chats, Einstellungen und Wissensdaten nach einem Neuaufbau schnell weg.
Häufige Fragen
Warum Open WebUI mit Docker installieren?
Docker trennt Anwendung, Daten und Updates sauberer und macht das Setup leichter wiederholbar.
Welche Daten muss ich behalten?
Wichtig sind Open-WebUI-Daten wie Benutzer, Chats, Einstellungen und hochgeladene Inhalte. Sie gehören in ein Volume oder einen Datenordner.
Warum findet Open WebUI Ollama nicht?
Oft ist die Ollama-URL aus Container-Sicht falsch. Host, Port und Netzwerk müssen zum Betriebsmodus passen.