LLMKube
Kubernetes-Operator für selbst gehostete LLM-Inferenz mit austauschbaren Laufzeiten (llama.cpp, vLLM, TGI, Ollama, vllm-swift), Multi-GPU-Sharding, Unterstützung für NVIDIA CUDA und Apple Silicon Metal sowie OpenAI-kompatibler API.
- GitHub-Sterne
- 232
- Lizenz
- Apache-2.0
- Neuestes Release
- v0.10.2
7. Oktober 2026 - Letzter Commit
- 13. Oktober 2026
- Läuft auf
- Go, Docker, Kubernetes
Commits pro Monat, letzte 12 Monate
1.067 commits
LLMKube selbst hosten
LLMKube läuft auf Go, Docker und Kubernetes. Am besten startest du mit der Installationsanleitung des Projekts; die meisten betreiben es auf einem kleinen Server mit Docker und einem Reverse Proxy für HTTPS.
- Besorg dir einen Server: einen Heimserver, einen VPS oder einen verwalteten App-Hoster.
- Installier die App so, wie es die Doku des Projekts beschreibt, meist mit Docker Compose.
- Stell sie hinter HTTPS und richte Backups ein, bevor echte Daten hineinkommen.
- Halte sie aktuell und behalte die Releases des Projekts im Blick.
Neu beim Selbsthosten? Fang mit der Einsteiger-Anleitung an.
Ähnliche Apps
- Ollama
Starte schnell mit Llama 3.3, DeepSeek-R1, Phi-4, Gemma 3 und anderen großen Sprachmodellen.
- Open-WebUI
Benutzerfreundliche KI-Oberfläche mit Unterstützung für Ollama und die OpenAI-API.
- LobeHub
KI-Chat-Framework in modernem Design für mehrere KI-Anbieter, mit MCP-Marktplatz zum Installieren per Klick sowie Artifacts und Thinking.
- AnythingLLM
All-in-one-KI-Anwendung für Desktop und Docker mit integriertem RAG, KI-Agenten, No-Code-Agent-Builder, MCP-Unterstützung und mehr.
- LocalAI
Betreibe deine KI-Modelle lokal und erzeuge Bilder und Audio, eine Alternative zu OpenAI und Claude.
- LibreChat
Erweiterte, ChatGPT-kompatible KI-Chatoberfläche für mehrere KI-Anbieter, mit Anmeldung für mehrere Nutzer, Nachrichtensuche und Plugin-Unterstützung.
Fragen
Ist LLMKube kostenlos?
Ja. LLMKube ist Open Source unter der Lizenz Apache-2.0, du zahlst also nichts für eine Lizenz, nur für den Server, auf dem es läuft.
Kann ich LLMKube selbst hosten?
Ja. LLMKube läuft auf Go, Docker und Kubernetes. Folge der Installationsanleitung in der Doku des Projekts oder nutze einen Hoster, der es für dich installiert.
Wird LLMKube noch gepflegt?
Die letzte Änderung am Code von LLMKube war am 13. Oktober 2026, mit 1067 Commits in den letzten 12 Monaten.
Themen
App-Daten von awesome-selfhosted (CC BY-SA 3.0), Sterne und Aktivität von GitHub.