KI & LLM-Tools

Starte schnell mit Llama 3.3, DeepSeek-R1, Phi-4, Gemma 3 und anderen großen Sprachmodellen.

Benutzerfreundliche KI-Oberfläche mit Unterstützung für Ollama und die OpenAI-API.

KI-Chat-Framework in modernem Design für mehrere KI-Anbieter, mit MCP-Marktplatz zum Installieren per Klick sowie Artifacts und Thinking.

All-in-one-KI-Anwendung für Desktop und Docker mit integriertem RAG, KI-Agenten, No-Code-Agent-Builder, MCP-Unterstützung und mehr.

Betreibe deine KI-Modelle lokal und erzeuge Bilder und Audio, eine Alternative zu OpenAI und Claude.

Erweiterte, ChatGPT-kompatible KI-Chatoberfläche für mehrere KI-Anbieter, mit Anmeldung für mehrere Nutzer, Nachrichtensuche und Plugin-Unterstützung.

Dein zweites Gehirn mit KI: Antworten aus dem Web oder deinen Dokumenten, eigene Agenten, geplante Automatisierungen und tiefgehende Recherche, und jedes Online- oder lokale LLM wird zu deiner persönlichen, autonomen KI.

KI-gestützte Suchmaschine, eine Alternative zu Perplexity AI.

Chat-Oberfläche für jedes LLM, mit erweiterten Funktionen wie Agenten, Websuche, RAG, MCP, tiefgehender Recherche, Konnektoren zu über 40 Wissensquellen und mehr.

KI-gestütztes Tool für tiefgehende Recherche mit Suche über mehrere Quellen (arXiv, PubMed, Web), PDF-Textextraktion und verschlüsseltem lokalem Speicher.

LLMOps-Plattform für Prompt-Verwaltung, LLM-Evaluierung und Observability, um LLM-Anwendungen im Produktivbetrieb gemeinsam zu entwickeln, zu bewerten und zu überwachen.

Containerisiertes LLM-Toolkit, das LLM-Backends, APIs, Frontends und weitere Dienste über eine knappe CLI startet.

KI-Gateway in Go mit einheitlicher OpenAI-kompatibler API für mehrere LLM-Anbieter, Kostenverfolgung in USD, Budgets, Nutzungsanalysen, Guardrails, Caching und Admin-Dashboard.

Kubernetes-Operator für selbst gehostete LLM-Inferenz mit austauschbaren Laufzeiten (llama.cpp, vLLM, TGI, Ollama, vllm-swift), Multi-GPU-Sharding, Unterstützung für NVIDIA CUDA und Apple Silicon Metal sowie OpenAI-kompatibler API.