qwen

Awesome-LLM-Eval：精選的工具、資料集/基準測試、展示、排行榜、論文、文件與模型清單，主要用於 LLM 評估。一個由工具、基準/數據、演示、排行榜和大模型等組成的精選列表，主要面向基礎大模型評測，旨在探求生成式AI的技術邊界。

Swiftlet 是一個 Swift 與 Metal 執行時期，透過從儲存空間串流專家權重，在 Apple 裝置上本地執行大型 Qwen Mixture-of-Experts 模型，使 35B 與 80B 模型能在低記憶體下執行，包含 iPhone。

歡迎來到 SINQ 的官方儲存庫！這是一種新穎、快速且高品質的量化方法，旨在縮小任何 Large Language Model 的體積同時保持準確度 [ICML 2026]

ComfyUI DyPE+SEGA，實現無偽影 4K+ 影像生成：支援 Z-Image、Qwen、Flux、Krea2

簡單且高效的 LLM 微調工具（支援 LLaMA、LLaMA2、LLaMA3、Qwen、Baichuan、GLM、Falcon），大模型高效量化訓練與部署。

針對 GitHub 與網路來源的智慧型資料擷取框架

eLLM: Run Long-Horizon Inference Faster on CPUs Than on GPUs

🔴 超大型 AI 工具清單！🔴 精選 AI 工具清單 - 2026 年更新

校招、秋招、春招與實習專案，帶您從零實作支援 LLama2/3 與 Qwen2.5 的大模型推理框架。

一個可二次開發的 Chat Bot 單輪對話 Web 端 MVP 原型模板，基於 Vue 3、Vite8、TypeScript、Naive UI、Pinia(v3)、UnoCSS 等主流技術構建，簡單整合大模型 API，採用單輪 AI 問答對話模式，每次提問獨立響應，無需上下文，支援 SSE 打字機效果流式輸出，整合 markdown-it、Mermaid/KaTex/LaTex 公式高亮預覽，星火、智譜、矽基流動、Deepseek V4/V3/R1 深度思考推理模型預覽，相容 <think> 標籤，包含蒸餾 skill，易於客製化和快速搭建 Chat 類大語言模型產品。

FlashRT 是一款高效能即時推論引擎，專為小批次、低延遲 AI 工作負載設計。旗艦整合包含 Pi0、Pi0.5、GROOT N1.6 及 Pi0-FAST 的生產級 VLA 控制，並支援如 qwen3.6-27B 等大型語言模型。

在 Mac (M1/M2/M3/M4) 上本地執行 Qwen3-TTS 文字轉語音。支援語音複製、語音設計與自訂語音，使用 MLX 實現 100% 離線運作

靜態 suckless 單批次僅限 CUDA 的 qwen3-0.6B 小型推論引擎。

基於 LLM 的多代理強化訓練與推理框架

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp

CLI-first orchestration for AI coding agents: run selected agents and models in parallel, compare raw answers, and coordinate review or implementation workflows.

Open Model Engine (OME) — Kubernetes operator for LLM serving, GPU scheduling, and model lifecycle management. Works with SGLang, vLLM, TensorRT-LLM, and Triton

A curated list of awesome tools, extensions, and resources for Gemini CLI.