llama3

Einstieg mit Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma und anderen Modellen

Vereinheitlichte effiziente Feinabstimmung von 100+ LLMs & VLMs (ACL 2024)

Dein KI‑Zweitgehirn. Selbst‑hostbar. Erhalte Antworten aus dem Web oder deinen Dokumenten. Erstelle benutzerdefinierte Agents, plane Automatisierungen, führe tiefgehende Forschung durch. Transformiere jedes Online‑ oder lokale LLM in deine persönliche, autonome KI (gpt, claude, gemini, llama, qwen, mistral). Loslegen – kostenlos.

Ein Leitfaden zur schnellen Feinabstimmung (Full-Parameter/LoRa) und Bereitstellung von Open-Source-LLMs und -MLLMs unter Linux.

🔥 MaxKB ist eine Open-Source-Plattform zur Entwicklung von Agenten auf Unternehmensebene.

Erstellen Sie zuverlässige kundenorientierte KI-Agenten mit Parlant: einem Interaktionssteuerungs-Framework, das für kontrollierte, konsistente und vorhersehbare LLM-Interaktionen optimiert ist.

Führe moderne LLMs und VLMs lokal auf Qualcomm-Geräten über NPU, GPU und CPU mit wenigen Zeilen Code aus.

LMDeploy ist ein Toolkit zum Komprimieren, Bereitstellen und Ausführen von LLMs.

OpenCompass ist eine LLM-Evaluierungsplattform, die eine Vielzahl von Modellen (Llama3, Mistral, InternLM2, GPT-4, LLaMa2, Qwen, GLM, Claude usw.) auf über 100 Datensätzen unterstützt.

Firefly: Ein Tool zum Trainieren großer Sprachmodelle (LLMs), das das Training von Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom und weiteren LLMs unterstützt.

Effiziente Triton-Kernel für das LLM-Training

Llama3 – Post-Training-Version für Chinesisch

Eine C#/.NET-Bibliothek zum effizienten Ausführen von LLMs (🦙LLaMA/LLaVA) auf Ihrem lokalen Gerät.

Eagle: Vision-Language-Modelle der nächsten Generation mit datenzentrierten Strategien

Devon: Ein Open-Source-Pair-Programmierer

Ein KI-gestütztes Dateiverwaltungstool, das die Privatsphäre durch die Organisation lokaler Texte und Bilder gewährleistet. Es nutzt Llama3.2 3B- und Llava v1.6-Modelle mit dem Nexa SDK, um Dateien intuitiv zu scannen, zu restrukturieren und für schnellen, reibungslosen Zugriff zu organisieren.

Verteilte LLM-Inferenz. Verbinden Sie Heimgeräte zu einem leistungsstarken Cluster, um die LLM-Inferenz zu beschleunigen. Mehr Geräte bedeuten eine schnellere Inferenz.

1 API-Schlüssel. Über 220.000 KI-Modelle. Bytez ist die größte serverlose Modell-Inferenz-API im Internet. Let's build ✨

Eine schnelle, tastaturbenzogene Terminal-Benutzeroberfläche zur Interaktion mit großen Sprachmodellen. Chatten Sie mit ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma und mehr.

Eine einfache, performante und skalierbare Jax LLM!

Eine Node.js-CLI, die Ollama- und LM Studio-Modelle (Llava, Gemma, Llama usw.) nutzt, um Dateien anhand ihres Inhalts intelligent umzubenennen

Chinesisches Llama-3 LLM-Projekt der dritten Generation, entwickelt auf Basis von Meta Llama 3

Mac-App für Ollama

Ein 🇨🇳- und 🇺🇸-Übersetzer für die Befehlszeile

Rezepte zum Trainieren von Belohnungsmodellen für RLHF.

Eine neuartige Architektur für multimodale große Sprachmodelle (MLLM), die darauf ausgelegt ist, visuelle und textuelle Einbettungen strukturell auszurichten.

Lokaler CLI-Copilot, angetrieben von Ollama. 💻🦙

Infinite Bookshelf: Generieren Sie ganze Bücher in Sekundenschnelle mit Groq und Llama3

Anwendungsimplementierung mit geschäftlichen Anwendungsfällen zur sicheren Nutzung von generativer KI im Geschäftsbetrieb