LLM Harbor

Containerisiertes LLM-Toolkit, das LLM-Backends, APIs, Frontends und weitere Dienste über eine knappe CLI startet.

Apache-2.0KI & LLM-Tools
GitHub-Sterne
3.246
Lizenz
Apache-2.0
Neuestes Release
v0.5.14
25. September 2026
Letzter Commit
25. September 2026
Läuft auf
Docker, Shell

Commits pro Monat, letzte 12 Monate

1.288 commits

LLM Harbor selbst hosten

LLM Harbor läuft auf Docker und Shell. Am besten startest du mit der Installationsanleitung des Projekts; die meisten betreiben es auf einem kleinen Server mit Docker und einem Reverse Proxy für HTTPS.

  1. Besorg dir einen Server: einen Heimserver, einen VPS oder einen verwalteten App-Hoster.
  2. Installier die App so, wie es die Doku des Projekts beschreibt, meist mit Docker Compose.
  3. Stell sie hinter HTTPS und richte Backups ein, bevor echte Daten hineinkommen.
  4. Halte sie aktuell und behalte die Releases des Projekts im Blick.

Neu beim Selbsthosten? Fang mit der Einsteiger-Anleitung an.

Ähnliche Apps

  • Ollama

    Starte schnell mit Llama 3.3, DeepSeek-R1, Phi-4, Gemma 3 und anderen großen Sprachmodellen.

    183k Sterne
  • Open-WebUI

    Benutzerfreundliche KI-Oberfläche mit Unterstützung für Ollama und die OpenAI-API.

    155k Sterne
  • LobeHub

    KI-Chat-Framework in modernem Design für mehrere KI-Anbieter, mit MCP-Marktplatz zum Installieren per Klick sowie Artifacts und Thinking.

    83.2k Sterne
  • AnythingLLM

    All-in-one-KI-Anwendung für Desktop und Docker mit integriertem RAG, KI-Agenten, No-Code-Agent-Builder, MCP-Unterstützung und mehr.

    67k Sterne
  • LocalAI

    Betreibe deine KI-Modelle lokal und erzeuge Bilder und Audio, eine Alternative zu OpenAI und Claude.

    49.5k Sterne
  • LibreChat

    Erweiterte, ChatGPT-kompatible KI-Chatoberfläche für mehrere KI-Anbieter, mit Anmeldung für mehrere Nutzer, Nachrichtensuche und Plugin-Unterstützung.

    45.6k Sterne

Fragen

Ist LLM Harbor kostenlos?

Ja. LLM Harbor ist Open Source unter der Lizenz Apache-2.0, du zahlst also nichts für eine Lizenz, nur für den Server, auf dem es läuft.

Kann ich LLM Harbor selbst hosten?

Ja. LLM Harbor läuft auf Docker und Shell. Folge der Installationsanleitung in der Doku des Projekts oder nutze einen Hoster, der es für dich installiert.

Wird LLM Harbor noch gepflegt?

Die letzte Änderung am Code von LLM Harbor war am 25. September 2026, mit 1288 Commits in den letzten 12 Monaten.

Themen

Generative Artificial Intelligence (GenAI)

App-Daten von awesome-selfhosted (CC BY-SA 3.0), Sterne und Aktivität von GitHub.