LLMKube

Opérateur Kubernetes pour l'inférence de LLM auto-hébergée, avec moteurs interchangeables (llama.cpp, vLLM, TGI, Ollama, vllm-swift), répartition multi-GPU, prise en charge de NVIDIA CUDA et d'Apple Silicon Metal et API compatible OpenAI.

Étoiles GitHub
232
Licence
Apache-2.0
Dernière version
v0.10.2
7 octobre 2026
Dernier commit
13 octobre 2026
Fonctionne avec
Go, Docker, Kubernetes

Commits par mois, 12 derniers mois

1 067 commits

Héberger LLMKube soi-même

LLMKube fonctionne avec Go, Docker et Kubernetes. Commencez par le guide d'installation du projet ; la plupart des gens l'installent sur un petit serveur avec Docker et un reverse proxy pour le HTTPS.

  1. Trouvez un serveur : un serveur à la maison, un VPS ou un hébergeur d'apps géré.
  2. Installez l'app comme l'indique la documentation du projet, souvent avec Docker Compose.
  3. Mettez-la derrière HTTPS et configurez des sauvegardes avant d'y mettre de vraies données.
  4. Mettez-la à jour régulièrement et suivez les versions du projet.

Vous débutez en auto-hébergement ? Commencez par le guide pour débutants.

Apps similaires

  • Ollama

    Lancez-vous avec Llama 3.3, DeepSeek-R1, Phi-4, Gemma 3 et d'autres grands modèles de langage.

    183k étoiles
  • Open-WebUI

    Interface d'IA conviviale, compatible avec Ollama et l'API OpenAI.

    155k étoiles
  • LobeHub

    Framework de chat IA au design moderne, compatible avec plusieurs fournisseurs d'IA, avec place de marché MCP en un clic et Artifacts et Thinking.

    83.2k étoiles
  • AnythingLLM

    Application d'IA tout-en-un pour poste de travail et Docker, avec RAG intégré, agents IA, constructeur d'agents sans code, compatibilité MCP et plus encore.

    67k étoiles
  • LocalAI

    Exécutez vos modèles d'IA en local et générez des images et de l'audio, alternative à OpenAI et Claude.

    49.5k étoiles
  • LibreChat

    Interface de chat IA améliorée et compatible ChatGPT, qui prend en charge plusieurs fournisseurs d'IA, avec authentification multi-utilisateur, recherche de messages et plugins.

    45.6k étoiles

Questions

LLMKube est-il gratuit ?

Oui. LLMKube est open source sous licence Apache-2.0 : vous ne payez pas de licence, seulement le serveur qui le fait tourner.

Puis-je héberger LLMKube moi-même ?

Oui. LLMKube fonctionne avec Go, Docker et Kubernetes. Suivez le guide d'installation de la documentation du projet, ou passez par un hébergeur qui l'installe pour vous.

LLMKube est-il encore maintenu ?

La dernière modification du code de LLMKube date du 13 octobre 2026, avec 1067 commits sur les 12 derniers mois.

Sujets

Generative Artificial Intelligence (GenAI)

Données des apps : awesome-selfhosted (CC BY-SA 3.0), étoiles et activité : GitHub.