llm

从教师模型到模型切片——从零开始的 LLM 蒸馏与服务引擎：包含自定义 Triton/CUDA 内核、FSDP 蒸馏、paged-KV 连续批处理、推测解码、Rust 网关、JAX 预测器与可解释性工具。

MindWork AI Studio 是一款免费、独立的跨平台桌面应用程序，支持各供应商的本地与云端 LLM，旨在普及 AI 访问。

让您的会议能被 AI Agents 访问

LangChain 的 Java 版本，同时为大数据赋能 LLM。

将 GitHub 仓库转换为 LLM 所需文本文件的 CLI 工具

受 Quartz Composer 启发的 Node 创意编码 / 3D / 图像处理工具

监控 arXiv 上关于 LLM 与 RL 控制的最新跨领域研究。欢迎提交 PR 推荐优质论文。

🤖 用于写作与思考的辅助原型工具

Flame 是一个开源的多模态 AI 系统，旨在将 UI 设计稿转换为高质量的 React 代码。它利用视觉语言模型、自动化数据合成与结构化训练工作流程，缩短设计与前端开发之间的差距。

[CSUR 2025] 大型语言模型的持续学习：综合综述。

Inference-native Tokenmaxxing Agent Harness for Loop Engineering

用于 AI 的开源网页基础设施。支持网页抓取、爬虫、自动化、Markdown 清理与浏览器会话，为你的 Agent 做好准备。

静态 suckless 单批次仅限 CUDA 的 qwen3-0.6B 小型推理引擎。

交付安全且有效的语言模型。

OpenClip - 用于长视频的 AI 驱动精彩时刻提取工具。

🤖 AGI 代理精选资源列表。

Towards AI 出版的《Building LLMs for Production》一书的存储库

将 reMarkable2 作为视觉 LLM（ChatGPT、Claude、Gemini）的接口。机器中的幽灵！

Pax 是一个基于 Jax 的机器学习框架，用于训练大规模模型。Pax 支持进阶且完全可配置的实验与并行化，并展现了业界领先的模型 FLOP 利用率。

从 0 到 1 构建一个 MiniLLM（实践中包含预训练、SFT 与 DPO）。

为个人博客与创作者网站打造的 AI 驱动 CMS 核心，具备 AI 摘要、翻译、审核与写作工作流程。

一个 Claude Code 插件，通过多个 LLM 之间的辩论来反复优化产品规格，直到所有模型达成共识。

A high-performance framework for training LLMs, VLMs, diffusion, and embodied models on NVIDIA GPUs and Kunlun XPUs.

(ECCVW 2025) GPT4RoI：基于感兴趣区域 (Region-of-Interest) 的大型语言模型指令微调。

🚀 整合最新 LLM 的 WebUI 平台。支持主流大模型 API 接口与开源模型。包含知识库、数据库、角色扮演、MJ 文生图、LoRA 与全参数微调、数据集制作、Live2D 等全流程应用工具

此仓库包含用于在保留任务上定量评估指令微调模型（如 Alpaca 和 Flan-T5）的代码。

开放式工作流程智慧系统，用于跨框架发现、验证、修复及产生自动化工作流程 — 以 n8n 为起点。

一个以图形为中心的框架，用于通过 Vibe Graphing 编排多智能体系统。

精选基于 LLM 的多模态生成（图像、视频、3D 与音频）论文列表。

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp