llmops

Waku Waku！Waku Agent 是一个由您真正拥有的本地优先 AI Agent 框架，包含循环、记忆与评估，所有代码均以易读性为核心构建，随项目成长仍保持清晰。

[GenAI 应用程序开发框架] 🚀 快速且轻松地构建 GenAI 应用程序 💬 使用结构化数据与链式调用语法，在代码中轻松与 GenAI agent 互动 🧩 使用事件驱动流程 *TriggerFlow* 管理复杂的 GenAI 工作逻辑 🔀 无需重写应用程序码即可切换至任何模型

更好地构建 Agent 的标准

RTP-LLM：阿里巴巴针对多元应用打造的高性能 LLM 推理引擎。

面向内部开发者平台（IDP）的声明式意图驱动平台协调器。

SmythOS 运行环境 (SRE) 是一个用于代理式 AI 的开源云原生运行环境。安全、模块化且具备生产就绪能力，让开发人员能够在本地、云端与边缘环境中构建、运行和管理智能代理。

使用模拟、逼真合成互动来全面诊断与优化 agent 的框架

Langtrace 🔍 是一个开源、基于 OpenTelemetry 的 LLM 应用程序端到端可观测性工具，为热门的 LLM、LLM 框架、向量数据库等提供实时追踪、评估与指标。使用 Typescript、Python 进行整合。🚀💻📊

用于创建、监控、调试和部署自主 AI 代理的 SDK、框架、库与工具数据库

用于 AI 可观测性的 OpenTelemetry 仪表化

针对 AI agents 的追踪原生 CI/CD — 生产环境失败转化为阻挡 PR 的回归测试。自动检测、分群、封装为隔离案例，在 CI 中以 0 美元重放。

AuditPilot：具备可稽核性的企业级 AI 代理，支持以证据为基础的工作流程、受管工具、评估工具、人工审查与修复交付。

DataDreamer：提示、生成合成数据、训练与对齐模型。

使用 Prometheus 与 GPT4 评估你的 LLM 响应 💯

Dynamiq 是一个用于代理式 AI 与 LLM 应用的编排框架

⛓️ 使用 FastAPI 自动提供 LangChain LLM 应用程序与 agent 服务。LLMops

大型语言模型 (LLMs) 教程与示例脚本，包含 langchain、openai、llamaindex、gpt、chromadb 与 pinecone

🧠 Motorhead 是一个用于 LLM 的记忆与信息检索服务器。

Neum AI 是一套同级最佳的框架，用于大规模管理向量嵌入的创建与同步。

集成 AI 聊天的交互式简历。使用 React 19、TypeScript、Claude API 构建。与我的 AI 头像聊聊我的经验。

如果 OpenAI Deep Research 和 Dify 结合成一个平台会怎样？OpenAgent — 用于快速构建垂直领域 AI agent 的架构，具备深度推理循环、可视化工作流程、RAG 与 A2A 委派功能。

使用 Rust 实现快速、流式的索引、查询与 Agentic LLM 应用程序

利用 LLM 构建应用实践笔记

LLM 全栈优质资源汇总

查看你的编码代理程序做了什么以及花费了多少成本。将每个任务拆解为工作步骤——使用的工具、变更的文件、执行的测试、花费的时间与 Token。针对 Claude Code、Codex、OpenCode 等工具的本地优先仪表板。无需登录、无遥测数据。

LLMFlows - 简单、明确且透明的 LLM 应用程序

基于 LLM 模型的端到端生成式 AI 行业项目与部署_Awesome LLM Projects

Hands-on, framework-free Colab notebooks for the AI Engineer / Forward Deployed Engineer (FDE) skill set — model APIs, structured output, tool calling, RAG, evals-as-the-spine, agents (loop from scratch, tool design, guardrails, MCP, Skills), fine-tuning vs LoRA, prompt-injection/security, LLMOps, and customer craft. Runs on the free Groq API.

唯一完全本地化、生产级的 Super SDK，为调用超过 200 种以上的 LLM 提供简单、统一且强大的接口。

使用 Lynkr 简化您的工作流程，这是一个透过 Claude Code CLI 进行高效代码互动的 HTTP 代理 CLI 工具。