qwen

Willkommen im offiziellen Repository von SINQ! Eine neuartige, schnelle und hochwertige Quantisierungsmethode, die entwickelt wurde, um jedes Large Language Model kleiner zu machen und gleichzeitig die Genauigkeit zu erhalten [ICML 2026]

Einfaches und effizientes Finetuning von LLMs. (Unterstützt LLama, LLama2, LLama3, Qwen, Baichuan, GLM, Falcon)

ComfyUI DyPE+SEGA für artefaktfreie 4K+-Bildgenerierung: Z-Image, Qwen, Flux, Krea2

Swiftlet ist eine Swift- und Metal-Laufzeitumgebung, die große Qwen Mixture-of-Experts-Modelle lokal auf Apple-Geräten ausführt, indem Expert-Gewichte vom Speicher gestreamt werden. Dies ermöglicht den Betrieb von 35B- und 80B-Modellen mit geringem RAM-Verbrauch, auch auf dem iPhone.

Intelligentes Framework zur Datenerfassung für GitHub und Webquellen

🔴 SEHR GROSSE KI-TOOL-LISTE! 🔴 Kuratierte Liste von KI-Tools - Stand 2026

Ein erweiterbares MVP-Prototyp-Template für einen Chat-Bot mit Single-Turn-Dialogen, basierend auf Vue 3, Vite8, TypeScript, Naive UI, Pinia(v3) und UnoCSS. Unterstützt LLM-API-Integration, SSE-Streaming, Markdown-Vorschau (Mermaid/KaTex/LaTex) sowie verschiedene Modelle wie Deepseek, Spark und Zhipu.

Ein Projekt für Praktika und Berufseinstieg, das Sie Schritt für Schritt bei der Implementierung eines LLM-Inferenz-Frameworks mit Unterstützung für Llama2/3 und Qwen2.5 anleitet.

Lokale Ausführung von Qwen3-TTS Text-to-Speech auf dem Mac (M1/M2/M3/M4). Stimmenklonierung, Stimmendesign und benutzerdefinierte Stimmen. 100 % offline mittels MLX.

Statische, minimalistische Single-Batch-Inferenz-Engine für qwen3-0.6B, ausschließlich für CUDA

Ein Framework für LLM-basiertes Multi-Agent Reinforced Training und Inference.

FlashRT ist eine leistungsstarke Echtzeit-Inferenz-Engine für KI-Workloads mit kleinen Batches und geringer Latenz. Die Hauptintegration umfasst die VLA-Steuerung für Pi0, Pi0.5, GROOT N1.6 und Pi0-FAST sowie Unterstützung für LLMs wie Qwen3.6-27B.

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp

CLI-first orchestration for AI coding agents: run selected agents and models in parallel, compare raw answers, and coordinate review or implementation workflows.

Open Model Engine (OME) — Kubernetes operator for LLM serving, GPU scheduling, and model lifecycle management. Works with SGLang, vLLM, TensorRT-LLM, and Triton

A curated list of awesome tools, extensions, and resources for Gemini CLI.