LLMKube

Operador de Kubernetes para inferencia de LLM autoalojada con entornos de ejecución intercambiables (llama.cpp, vLLM, TGI, Ollama, vllm-swift), fragmentación en varias GPU, compatibilidad con NVIDIA CUDA y Apple Silicon Metal, y una API compatible con OpenAI.

Estrellas en GitHub
232
Licencia
Apache-2.0
Última versión
v0.10.2
7 de octubre de 2026
Último commit
13 de octubre de 2026
Funciona con
Go, Docker, Kubernetes

Commits por mes, últimos 12 meses

1067 commits

Cómo alojar LLMKube tú mismo

LLMKube funciona con Go, Docker y Kubernetes. Empieza por la guía de instalación del proyecto; la mayoría lo instala en un servidor pequeño con Docker y un proxy inverso para HTTPS.

  1. Consigue un servidor: uno en casa, un VPS o un servicio de hosting de apps gestionado.
  2. Instala la app como indica la documentación del proyecto, normalmente con Docker Compose.
  3. Ponla detrás de HTTPS y configura copias de seguridad antes de meter datos reales.
  4. Actualízala con regularidad y sigue las versiones del proyecto.

¿Nuevo en el autoalojamiento? Empieza por la guía para principiantes.

Apps similares

  • Ollama

    Pon en marcha Llama 3.3, DeepSeek-R1, Phi-4, Gemma 3 y otros grandes modelos de lenguaje.

    183k estrellas
  • Open-WebUI

    Interfaz de IA fácil de usar, compatible con Ollama y la API de OpenAI.

    155k estrellas
  • LobeHub

    Framework de chat con IA de diseño moderno, compatible con varios proveedores de IA, con instalación en un clic de MCP Marketplace y Artifacts o Thinking.

    83.2k estrellas
  • AnythingLLM

    Aplicación de IA todo en uno para escritorio y Docker con RAG integrado, agentes de IA, creador de agentes sin código, compatibilidad con MCP y más.

    67k estrellas
  • LocalAI

    Ejecuta tus modelos de IA en local y genera imágenes y audio, como alternativa a OpenAI y Claude.

    49.5k estrellas
  • LibreChat

    Interfaz de chat con IA mejorada y compatible con ChatGPT, que admite varios proveedores de IA, autenticación multiusuario, búsqueda de mensajes y plugins.

    45.6k estrellas

Preguntas

¿LLMKube es gratis?

Sí. LLMKube es de código abierto bajo la licencia Apache-2.0, así que no pagas ninguna licencia, solo el servidor donde funciona.

¿Puedo alojar LLMKube yo mismo?

Sí. LLMKube funciona con Go, Docker y Kubernetes. Sigue la guía de instalación de la documentación del proyecto o usa un servicio que lo instale por ti.

¿LLMKube sigue mantenido?

El último cambio en el código de LLMKube fue el 13 de octubre de 2026, con 1067 commits en los últimos 12 meses.

Temas

Generative Artificial Intelligence (GenAI)

Datos de las apps: awesome-selfhosted (CC BY-SA 3.0), estrellas y actividad: GitHub.