Kubernetes on René Zander | KI-Automatisierungsberater

Voice AI in Produktion: Vom RunPod-Pod zu Hosted Kubernetes

Thu, 23 Apr 2026 11:00:00 +0000

Dein TTS-Modell funktioniert in der Demo. Dasselbe Modell kollabiert in Produktion unter paralleler Last. Die Modell-Datei ist identisch. Die GPU ist dieselbe. Nur das Deployment hat sich geändert.

Wenn dein TTS-Service auf einem einzelnen RunPod-Pod läuft, bist du schon an diese Grenze gestoßen. Du bearbeitest eine Anfrage pro GPU gleichzeitig. Ein Absturz kostet neunzig Sekunden Neuladezeit für das Modell. Failover ist nicht vorgesehen. Deine Marketing-Seite verspricht “Narration sofort generieren.” Deine Infrastruktur sagt “bitte hinten anstellen.”

Self-Hosted LLM auf Kubernetes: Produktives vLLM-Deployment

Sun, 05 Apr 2026 07:00:00 +0200

Die meisten Teams, die nach Self-Hosted-LLM-Kubernetes-Deployments fragen, sollten dafür gar kein Kubernetes fahren. Die ehrliche Antwort: vLLM auf einer einzelnen GPU-Box, eingepackt in systemd oder Docker Compose, deckt mehr Use Cases ab, als man gerne zugibt. Kubernetes verdient sich seinen Platz erst, wenn Sie es ohnehin betreiben — oder wenn Sie horizontale Skalierung, Multi-Tenancy-Isolation oder saubere Rolling Deploys über einen GPU-Node-Pool brauchen.

Dieser Leitfaden setzt voraus, dass Sie sich für Kubernetes entschieden haben. Ich gehe die Referenzarchitektur durch, die ich beim LLM-Deployment nach k8s nutze, liefere vollständige Manifests für vLLM mit Llama 3.3 70B quantisiert und die operativen Stolpersteine, die jedes Team beim ersten Mal erwischen. Keine plattformspezifische Magie, keine Abstraktion hinter einem Managed Vendor. Nur die YAML, die Sie brauchen, und die Begründung hinter jedem Feld.

n8n-Self-Hosting-Leitfaden: Docker, Kubernetes und Bare Metal in Produktion

Tue, 31 Mar 2026 09:00:00 +0200

Ich fahre n8n selbst gehostet seit 2022 über drei verschiedene Topologien: ein Single-VPS-Docker-Compose-Setup, einen kleinen Kubernetes-Cluster mit Queue-Mode und eine Bare-systemd-Installation auf einer gehärteten Debian-Box. Jede hat ihren Platz, und die falsche Wahl kostet Wochenenden. Dieser n8n-Self-Hosting-Leitfaden ist die Version, die ich am Anfang gebraucht hätte — geschrieben für Teams, die produktive Stabilität wollen, nicht eine Demo.

Kurzes Fazit vorweg: Docker Compose fahren, solange Sie physisch können. Kubernetes nur, wenn Sie es ohnehin für andere Services betreiben oder wirklich nördlich von 50.000 Executions pro Tag liegen. Der Bare-systemd-Pfad existiert für Leute wie mich, die minimalistische Stacks mögen und jedes bewegliche Teil verstehen wollen. Alle drei funktionieren. Der falsche Pfad fühlt sich wie ein zweiter Job an.