llm

LLM 基於代理應用的 RL Bridge，簡單且靈活

低代码 MCP 框架，用于构建复杂且创新的 RAG 流水线

穩健的配方，將語言模型對齊人類與 AI 的偏好

⚡️下一代個人 AI 助手，採用 LLM、RAG 與代理迴圈，支援電腦使用、瀏覽器使用與程式碼代理，示範：https://demo.openagentai.org

一個 GPU 叢集管理器，用於高效能 AI 模型服務（vLLM、SGLang）以及按需可 SSH 存取的 GPU 實例。

Lemonade 幫助用戶發現並運行本地 AI 應用，直接在自己的 GPU 和 NPU 上提供優化 LLM，加入我們的 Discord：https://discord.gg/5xXzkMu8Zk

Awesome Pretrained Chinese NLP Models，高品質中文預訓練模型、 大模型、多模態模型與大語言模型集合。

Emdash 是开源的代理式开发环境（🧡 YC W26）。并行运行多个编码代理。支持任何提供商。

ZenML：從管道到代理的一站式 AI 平台 https://zenml.io

即插即用的 RPA 套件，內建自動化工具，適用個人與企業

一個可編程的混合模型路由器，用於異質 LLM 推理。

Edit Banana：一個將統計格式轉換為可編輯格式的框架

MLX-VLM 是一個在 Mac 上使用 MLX 進行 Vision Language Models (VLMs) 推理與微調的套件

紅隊自動駭客代理

開源平台，用於 AI 原生應用開發。

構建分佈式、面向生產、長期運行的代理

高效 LLM 推理 API 與聊天 UI，整合 DeepSeek R1 的 CoT 推理痕跡與 Anthropic Claude 模型

LLM 實務指南：從基礎到在 AWS 上部署先進 LLM 與 RAG 應用，採用 LLMOps 最佳實踐

帶 AI 的對手模擬與紅隊平台

LM Studio CLI

Kodu 是一個自動化編碼代理，存在於你的 IDE。它是 VSCode 擴充功能，能利用最新自動化編碼代理技術，逐步協助你打造理想專案。

使用 ML、LLM 和 Vision LLM 的結構化數據提取、指令調用和代理工作流

本地優先醫療 AI：臨床 NER 與 HIPAA PII 去識別化，100% 端上執行，2,200+ 醫療模型，21 種語言，Apple MLX + Python，無雲端，無病患資料離開網路。Apache-2.0

為超大型 MoE 模型打造的下一代訓練引擎

CodeGen 是一系列用于程序合成的开源模型，训练于 TPU-v4，性能与 OpenAI Codex 相当。

AI 撰寫的韓文被 Claude 重新寫成像人類文字的技能 — Korean AI-text humanizer：偵測並重寫翻譯痕跡、機械式平行、以及 71 種其他 AI 特色

H2O LLM Studio——一個用於微調 LLM 的框架與無代碼 GUI。文件：https://docs.h2o.ai/h2o-llmstudio/

⚡️ 開源 AI 閘道器 — 使用任何 SDK 調用 100+ LLM。內建故障轉移、負載平衡、成本控制與端到端追蹤。

EasyR1：一個基於 veRL 的高效、可擴展、多模態 RL 訓練框架。

從零開始在 PyTorch 中實現推理 LLM，逐步說明