Docker für lokale KI-Tools

Hier nutzt du Docker als Fundament für lokale KI-Tools wie Ollama, Open WebUI, Whisper und n8n. Wir sind am Ende dieser Docker-Reihe angekommen: installieren, Compose-Dateien schreiben, Ports verstehen, Daten behalten, Netzwerke prüfen und Updates sichern. Für mich wird Docker Compose besonders interessant, sobald lokale KI-Dienste ins Spiel kommen. Dann laufen mehrere Bausteine auf dem gleichen Rechner, aber sauber getrennt: Sprache zu Text, lokale Modelle, Workflows und eine Weboberfläche.

Das Ziel ist nicht, alles in eine riesige Datei zu werfen. Das Ziel ist, ein Setup so zu beschreiben, dass du es verstehen, stoppen, aktualisieren und später wiederherstellen kannst.

Typische Kombination

Ein realistisches lokales KI-Setup besteht oft aus mehreren Diensten. Nicht jeder muss auf jedem Rechner laufen, aber die Richtung ist klar:

services:
  whisper:
    image: fedirz/faster-whisper-server
    ports:
      - "9001:8000"

  ollama:
    image: ollama/ollama
    volumes:
      - ./ollama:/root/.ollama
    ports:
      - "11434:11434"

  n8n:
    image: n8nio/n8n
    volumes:
      - ./n8n:/home/node/.n8n
    ports:
      - "5678:5678"

Die Ports sind bewusst sichtbar. So kannst du im Browser oder aus n8n heraus gezielt auf die Dienste zugreifen.

Linux, Mac und Windows

Die Compose-Datei ist auf allen drei Systemen fast gleich. Die Unterschiede liegen eher außen herum: Docker Desktop muss auf Mac und Windows laufen, unter Linux muss der Docker-Dienst aktiv sein, und Pfade zu lokalen Ordnern sollten einfach bleiben.

docker compose up -d
docker compose ps
docker compose logs -f
docker compose down

Mein Schluss

Praxiswert

Docker Compose macht lokale KI-Dienste planbar. Du siehst, welche Dienste laufen, welche Ports belegt sind und wo die Daten liegen. Genau deshalb passt Compose so gut zu Whisper, Ollama, n8n, Open WebUI und Selfhosting.

Der nächste sinnvolle Schritt

Wenn du diesen Teil verstanden hast, sind diese Seiten die logisch nächsten Stationen:

Häufige Fragen

Welche KI-Tools passen gut zu Docker Compose?

Typische Kandidaten sind Open WebUI, n8n, Whisper-APIs, Datenbanken und Hilfsdienste. Ollama kann lokal oder ebenfalls containerisiert laufen.

Soll alles in eine einzige Compose-Datei?

Nicht zwingend. Für den Einstieg ist ein überschaubares Projekt besser als eine riesige Datei, die niemand mehr versteht.

Warum ist Docker für lokale KI hilfreich?

Du kannst Dienste getrennt starten, Ports und Datenorte dokumentieren, Updates kontrollieren und das Setup später leichter wiederherstellen.