qwen

Awesome-LLM-Eval：精选的工具、数据集/基准测试、演示、排行榜、论文、文档与模型列表，主要用于 LLM 评估。一个由工具、基准/数据、演示、排行榜和大模型等组成的精选列表，主要面向基础大模型评测，旨在探求生成式AI的技术边界。

Swiftlet 是一个 Swift 与 Metal 运行时，通过从存储空间串流专家权重，在 Apple 设备上本地执行大型 Qwen Mixture-of-Experts 模型，使 35B 与 80B 模型能在低内存下执行，包含 iPhone。

欢迎来到 SINQ 的官方仓库！这是一种新颖、快速且高质量的量化方法，旨在缩小任何 Large Language Model 的体积同时保持准确度 [ICML 2026]

ComfyUI DyPE+SEGA，实现无伪影 4K+ 图像生成：支持 Z-Image、Qwen、Flux、Krea2

简单且高效的 LLM 微调工具（支持 LLaMA、LLaMA2、LLaMA3、Qwen、Baichuan、GLM、Falcon），大模型高效量化训练与部署。

针对 GitHub 与网络来源的智能数据采集框架

eLLM: Run Long-Horizon Inference Faster on CPUs Than on GPUs

🔴 超大型 AI 工具清单！🔴 精选 AI 工具清单 - 2026 年更新

一个可二次开发的 Chat Bot 单轮对话 Web 端 MVP 原型模板，基于 Vue 3、Vite8、TypeScript、Naive UI、Pinia(v3)、UnoCSS 等主流技术构建，简单集成大模型 API，采用单轮 AI 问答对话模式，每次提问独立响应，无需上下文，支持 SSE 打字机效果流式输出，集成 markdown-it、Mermaid/KaTex/LaTex 公式高亮预览，星火、智谱、硅基流动、Deepseek V4/V3/R1 深度思考推理模型预览，兼容 <think> 标签，包含蒸馏 skill，易于定制和快速搭建 Chat 类大语言模型产品。

校招、秋招、春招与实习项目，带您从零实现支持 LLama2/3 与 Qwen2.5 的大模型推理框架。

FlashRT 是一款高性能实时推理引擎，专为小批次、低延迟 AI 工作负载设计。旗舰集成包含 Pi0、Pi0.5、GROOT N1.6 及 Pi0-FAST 的生产级 VLA 控制，并支持如 qwen3.6-27B 等大型语言模型。

在 Mac (M1/M2/M3/M4) 上本地运行 Qwen3-TTS 文字转语音。支持语音克隆、语音设计与自定义语音，使用 MLX 实现 100% 离线运行

静态 suckless 单批次仅限 CUDA 的 qwen3-0.6B 小型推理引擎。

基于 LLM 的多代理强化训练与推理框架

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp

CLI-first orchestration for AI coding agents: run selected agents and models in parallel, compare raw answers, and coordinate review or implementation workflows.

Open Model Engine (OME) — Kubernetes operator for LLM serving, GPU scheduling, and model lifecycle management. Works with SGLang, vLLM, TensorRT-LLM, and Triton

A curated list of awesome tools, extensions, and resources for Gemini CLI.