llama

Einstieg mit Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma und anderen Modellen

Ein hocheffizientes und speichereffizientes Inferenz- und Serving-Engine für LLMs

Lokale UI zum Ausführen und Trainieren von LLMs und Diffusionsmodellen, einschließlich Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX und mehr.

Vereinheitlichte effiziente Feinabstimmung von 100+ LLMs & VLMs (ACL 2024)

LocalAI ist das Open-Source AI-Engine. Führen Sie jedes Modell – LLMs, Vision, Voice, Image, Video – auf beliebiger Hardware aus. Keine GPU erforderlich.

aider ist KI-Pair-Programming in deinem Terminal.

KI-Agent-Assistent & Entwicklungsumgebung, die viele IM-Plattformen, LLMs, Plugins und KI-Features integriert und als OpenClaw-Alternative dienen kann. ✨

Langchain-Chatchat (ursprünglich Langchain-ChatGLM) basierend auf Langchain und ChatGLM, Qwen und Llama sowie weiteren Sprachmodellen für RAG- und Agent-Anwendungen | Langchain-Chatchat (früher langchain-ChatGLM), lokale Wissens-LLM (wie ChatGLM, Qwen und Llama) RAG- und Agent-Anwendungen mit langchain

AirLLM 70B-Inferenz mit einer einzelnen 4 GB‑GPU

SGLang ist ein hochleistungsfähiges Serving‑Framework für große Sprach‑ und multimodale Modelle.

SOTA Open Source TTS

📦 Repomix ist ein leistungsstarkes Tool, das Ihr gesamtes Repository in eine einzige, KI-freundliche Datei packt. Ideal, wenn Sie Ihren Codebase an Large Language Models (LLMs) oder andere KI-Tools wie Claude, ChatGPT, DeepSeek, Perplexity, Gemini, Gemma, Llama, Grok und weitere weiterleiten müssen.

[NeurIPS'23 Oral] Visual Instruction Tuning (LLaVA) in Richtung GPT-4V-Niveaufähigkeiten und darüber hinaus gebaut.

Organisiere Open-Source-Chinesische große Sprachmodelle, die vor allem Modelle mit kleinem Umfang, privat einsetzbar und niedrigen Trainingskosten umfassen, einschließlich Grundmodellen, vertikal spezialisierbaren Feinjustierungen und Anwendungen, Datensätzen und Tutorials usw.

Chinesische LLaMA- & Alpaca-LLMs + lokales CPU/GPU-Trainings-Deployment (Chinese LLaMA & Alpaca LLMs)

Willkommen beim Llama Cookbook! Ihr Standard-Leitfaden für die Entwicklung mit Llama: Erste Schritte mit Inferenz, Fine-Tuning und RAG. Wir zeigen Ihnen auch, wie Sie End-to-End-Probleme mit der Llama-Modellfamilie lösen und diese bei verschiedenen Anbieterdiensten nutzen.

Verwenden Sie PEFT oder Vollparameter für CPT/SFT/DPO/GRPO von über 600 LLMs und über 300 MLLMs (AAAI 2025).

GUI für die ChatGPT-API und viele LLMs. Unterstützt Agents, dateibasierte QA, GPT-Finetuning und Abfragen mit Websuche. Alles mit einer übersichtlichen Benutzeroberfläche.

Llama-Community auf Chinesisch, die in Echtzeit die neuesten Llama-Lernmaterialien zusammenfasst und das beste chinesische Llama-Open-Source-Ökosystem aufbaut, vollständig Open Source und kommerziell nutzbar

LangChain4j ist eine idiomatische, Open-Source-Java-Bibliothek zum Erstellen von LLM-basierten Anwendungen auf der JVM. Sie bietet eine einheitliche API für gängige LLM-Anbieter und Vektorspeicher und erleichtert die Implementierung von Tool-Aufrufen (einschließlich MCP-Unterstützung), Agenten und RAG. Sie lässt sich nahtlos in Enterprise-Java-Frameworks wie Quarkus und Spring Boot integrieren.

Benutzerfreundliche und leistungsstarke LLM- und SLM-Bibliothek mit einer großartigen Modell-Sammlung.

Der einfachste Weg, LLaMA auf Ihrem lokalen Computer auszuführen

Führen Sie beliebige Open-Source-LLMs wie DeepSeek und Llama als OpenAI-kompatiblen API-Endpunkt in der Cloud aus.

Ein Kommandozeilen-Produktivitätstool, angetrieben von KI-Sprachmodellen wie GPT-5, das Ihnen hilft, Ihre Aufgaben schneller und effizienter zu erledigen.

BISHENG ist eine offene LLM-DevOps-Plattform für Enterprise-KI-Anwendungen der nächsten Generation. Leistungsstarke und umfassende Funktionen umfassen: GenAI-Workflow, RAG, Agent, einheitliches Modellmanagement, Evaluierung, SFT, Datensatzverwaltung, Systemverwaltung auf Unternehmensniveau, Observability und mehr.

Low-Code-Framework zum Erstellen benutzerdefinierter LLMs, neuronaler Netze und anderer KI-Modelle.

Ein selbst gehosteter, offlinefähiger Chatbot im ChatGPT-Stil. Unterstützt durch Llama 2. 100 % privat, es verlässt kein Daten Ihr Gerät. Neu: Code Llama-Unterstützung!

🌸 LLMs zu Hause ausführen, im BitTorrent-Stil. Fine-Tuning und Inferenz bis zu 10x schneller als das Auslagern

High-Speed-LLM-Serving für die lokale Bereitstellung

Einfaches Fine-Tuning, Evaluierung und Deployment von Qwen, Gemma oder anderen Open-Weight-LLMs!