llama

Chinesische NLP-Lösungen (große Sprachmodelle, Daten, Modelle, Training, Inferenz)

Multi-LoRA-Inferenzserver, der auf Tausende von feinabgestimmten LLMs skaliert

Eine C#/.NET-Bibliothek zum effizienten Ausführen von LLMs (🦙LLaMA/LLaVA) auf Ihrem lokalen Gerät.

Eagle: Vision-Language-Modelle der nächsten Generation mit datenzentrierten Strategien

Automatisierte Q&A für lokale Wissensdatenbanken basierend auf LLMs wie LangChain und ChatGLM-6B

Eine native macOS-App, mit der Benutzer mit einem lokalen LLM chatten können, das auf Informationen aus Dateien, Ordnern und Websites auf dem Mac zugreifen kann, ohne zusätzliche Software zu installieren. Unterstützt durch llama.cpp.

Erstellen Sie ein modernes LLM von Grund auf. Jede Zeile kommentiert. Einfach erklärt.

Claude Code zu 100 % lokal auf Apple Silicon mit lokaler KI ausführen. MLX-nativer Anthropic-API-Server. 6 Modelle inkl. Muse-Glimmer 30B (jetzt multimodal – liest Bilder, abliteriert), Gemma 4 31B, Qwen 3.5 122B (65 Tok/s), DeepSeek V4 Flash (1M Konstitutionskontext). Privat, offline, airgap-fähig. Entwickelt für NDA-, Rechts- und Gesundheits-Workflows.

Kostenlose KI-Chatbots im Terminal

AGiXT ist eine dynamische KI-Agenten-Automatisierungsplattform, die Anweisungsmanagement und komplexe Task-Ausführung nahtlos über verschiedene KI-Anbieter hinweg orchestriert. Durch die Kombination aus adaptivem Speicher, intelligenten Funktionen und einem vielseitigen Plugin-System bietet AGiXT effiziente und umfassende KI-Lösungen.

InternGPT (iGPT) ist eine Open-Source-Demoplattform zur einfachen Präsentation von KI-Modellen. Unterstützt nun DragGAN, ChatGPT, ImageBind, multimodalen Chat wie GPT-4, SAM, interaktive Bildbearbeitung und mehr. Testen Sie es unter igpt.opengvlab.com

LSP-AI ist ein Open-Source-Sprachserver, der als Backend für KI-gestützte Funktionen dient und Softwareentwickler unterstützen und stärken soll, anstatt sie zu ersetzen.

[EMNLP 2023 Demo] Video-LLaMA: Ein instruktionsoptimiertes audio-visuelles Sprachmodell für das Videoverständnis

Chinese-LLaMA 1&2, Chinese-Falcon Basismodelle; ChatFlow chinesisches Dialogmodell; chinesisches OpenLLaMA-Modell; NLP-Prätrainierungs-/Instruction-Tuning-Datensätze

LLM-Finetuning mit peft

PyTorch-native Quantisierung für Training und Inferenz.

[ACL 2024] Ein benutzerfreundliches Framework zur Wissensbearbeitung für LLMs.

Erstellen, personalisieren und steuern Sie Ihre eigenen LLMs. Von der Datenvorverarbeitung bis zum Fine-Tuning bietet xTuring einen einfachen Weg zur Personalisierung von Open-Source-LLMs. Treten Sie unserer Discord-Community bei: https://discord.gg/TgHXuSJEk6

[EMNLP-2024] Erstellen Sie multimodale Sprachagenten für schnelles Prototyping und Produktion

Maid ist eine freie Open-Source-Anwendung für die lokale Interaktion mit llama.cpp-Modellen sowie für dieリモート-Interaktion mit Modellen von Anthropic, DeepSeek, Ollama, Mistral und OpenAI.

Ein leistungsstarkes Zotero-KI- und MCP-Plugin mit ChatGPT, Gemini 3.6, Claude Fable 5, Claude Sonnet 5, DeepSeek V4, Grok, OpenRouter, Kimi k3, GLM 5.2, SiliconFlow, GPT-oss, Gemma 4, Qwen 3.7

mPLUG-Owl: Die leistungsstarke Familie multimodaler Large Language Models

Große Sprachmodelle (LLMs) leicht gemacht – EasyLM ist eine Komplettlösung für Pre-Training, Fine-Tuning, Evaluierung und Bereitstellung von LLMs in JAX/Flax.

Eine schnelle, tastaturbenzogene Terminal-Benutzeroberfläche zur Interaktion mit großen Sprachmodellen. Chatten Sie mit ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma und mehr.

OpenAI-kompatible API für offene große Sprachmodelle, Nutzung von LLMs wie ChatGPT! Unterstützung für LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 usw.

LLM-Agenten-Framework in ComfyUI, das MCP-Server, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 und FLUX-Prompt-Knoten enthält, Zugriff auf Feishu und Discord bietet und sich an alle LLMs mit ähnlichen OpenAI-/Aisuite-Schnittstellen anpasst, wie z. B. o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Angepasst an lokale LLMs, VLM, GGUF wie llama-3.3 Janus-Pro, Linkage graphRAG

FinGLM: Ein offenes, gemeinnütziges und nachhaltiges Finanz-Großmodell-Projekt, das Open Source nutzt, um „AI + Finance“ zu fördern.

Sofort einsatzbereite, steuerbare, lokale vortrainierte KI-Modelle in Rust

Führe KI-Modelle lokal auf deinem Rechner aus mit Node.js-Bindings für llama.cpp. Erzwinge ein JSON-Schema für die Modellausgabe auf Generierungsebene.

Ein sicheres, Low-Code-basiertes Deception-Runtime-Framework, das KI für die Systemvirtualisierung nutzt.