llm

LLM 基于代理应用的 RL Bridge，简单且灵活

低代码 MCP 框架，用于构建复杂且创新的 RAG 流水线

稳健的配方，将语言模型对齐人类与 AI 的偏好

⚡️下一代个人 AI 助手，采用 LLM、RAG 与代理循环，支持电脑使用、浏览器使用与编码代理，示例：https://demo.openagentai.org

一个 GPU 集群管理器，用于高效能 AI 模型服务（vLLM、SGLang）以及按需可 SSH 访问的 GPU 实例。

Lemonade 帮助用户发现并运行本地 AI 应用，直接在自己的 GPU 和 NPU 上提供优化 LLM，加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

Awesome Pretrained Chinese NLP Models，高质量中文预训练模型、大模型、多模态模型与大语言模型集合。

Emdash 是开源的代理式开发环境（🧡 YC W26）。并行运行多个编码代理。支持任何提供商。

ZenML：从管道到代理的一站式 AI 平台 https://zenml.io

即插即用的 RPA 套件，内建自动化工具，适用于个人与企业

一个可编程的混合模型路由器，用于异质 LLM 推理。

Edit Banana：一个将统计格式转换为可编辑格式的框架

MLX-VLM 是一个在 Mac 上使用 MLX 进行 Vision Language Models (VLMs) 推理与微调的套件

红队自动黑客代理

开源平台，用于 AI 原生应用开发。

构建分布式、面向生产、长期运行的代理

高效 LLM 推理 API 与聊天 UI，整合 DeepSeek R1 的 CoT 推理痕迹与 Anthropic Claude 模型

LLM 实务指南：从基础到在 AWS 上部署先进 LLM 与 RAG 应用，采用 LLMOps 最佳实践

带 AI 的对手模拟与红队平台

LM Studio CLI

Kodu 是一个自动化编码代理，存在于你的 IDE。它是 VSCode 扩展功能，能利用最新自动化编码代理技术，逐步协助你打造理想项目。

使用 ML、LLM 和 Vision LLM 的结构化数据提取、指令调用和代理工作流

本地优先医疗 AI：临床 NER 与 HIPAA PII 去识别化，100% 端上执行，2,200+ 医疗模型，21 种语言，Apple MLX + Python，无云端，无病患资料离开网络。Apache-2.0

为超大型 MoE 模型打造的下一代训练引擎

CodeGen 是一系列用于程序合成的开源模型，训练于 TPU-v4，性能与 OpenAI Codex 相当。

AI 撰写的韩文被 Claude 重新写成像人类文字的技能 — Korean AI-text humanizer：检测并重写翻译痕迹、机械式平行、以及 71 种其他 AI 特色

H2O LLM Studio——一个用于微调 LLM 的框架与无代码 GUI。文档：https://docs.h2o.ai/h2o-llmstudio/

⚡️ 开源 AI 闸道器 — 使用任何 SDK 调用 100+ LLM。内建故障转移、负载平衡、成本控制与端到端追踪。

EasyR1：一个基于 veRL 的高效、可扩展、多模态 RL 训练框架。

从零开始在 PyTorch 中实现推理 LLM，逐步说明