llmops

Waku Waku！Waku Agent 是一個由您真正擁有的本地優先 AI Agent 框架，包含迴圈、記憶與評估，所有程式碼皆以易讀性為核心構建，隨專案成長仍保持清晰。

[GenAI 應用程式開發框架] 🚀 快速且輕鬆地建構 GenAI 應用程式 💬 使用結構化資料與鏈式呼叫語法，在程式碼中輕鬆與 GenAI agent 互動 🧩 使用事件驅動流程 *TriggerFlow* 管理複雜的 GenAI 工作邏輯 🔀 無需重寫應用程式碼即可切換至任何模型

更好地建置 Agent 的標準

RTP-LLM：阿里巴巴針對多元應用打造的高效能 LLM 推論引擎。

內部開發平台（IDP）的宣告式意圖驅動平台協調器。

SmythOS 執行環境 (SRE) 是一個用於代理式 AI 的開源雲原生執行環境。安全、模組化且具備生產就緒能力，讓開發人員能夠在本機、雲端與邊緣環境中建構、執行和管理智慧代理。

使用模擬、逼真合成互動來全面診斷與最佳化 agent 的框架

Langtrace 🔍 是一個開源、基於 OpenTelemetry 的 LLM 應用程式端到端可觀測性工具，為熱門的 LLM、LLM 框架、向量資料庫等提供即時追蹤、評估與指標。使用 Typescript、Python 進行整合。🚀💻📊

用於建立、監控、除錯和部署自主 AI 代理的 SDK、框架、函式庫與工具資料庫

用於 AI 可觀測性的 OpenTelemetry 儀表化

針對 AI agents 的追蹤原生 CI/CD — 生產環境失敗轉化為阻擋 PR 的迴歸測試。自動偵測、分群、封裝為隔離案例，在 CI 中以 0 美元重播。

AuditPilot：具備可稽核性的企業級 AI 代理，支援以證據為基礎的工作流程、受管工具、評估工具、人工審查與修復交付。

DataDreamer：提示、生成合成資料、訓練與對齊模型。

使用 Prometheus 與 GPT4 評估你的 LLM 回應 💯

Dynamiq 是一個用於代理式 AI 與 LLM 應用的編排框架

⛓️ 使用 FastAPI 自動提供 LangChain LLM 應用程式與 agent 服務。LLMops

大型語言模型 (LLMs) 教學與範例指令碼，包含 langchain、openai、llamaindex、gpt、chromadb 與 pinecone

🧠 Motorhead 是一個用於 LLM 的記憶與資訊檢索伺服器。

Neum AI 是一套同級最佳的框架，可用於大規模管理向量嵌入的建立與同步。

具備 AI 聊天整合的互動式履歷。使用 React 19、TypeScript、Claude API 建構。與我的 AI 分身聊聊我的經驗。

如果 OpenAI Deep Research 和 Dify 結合成一個平台會怎樣？OpenAgent — 用於快速建構垂直領域 AI agent 的架構，具備深度推理迴圈、視覺化工作流程、RAG 與 A2A 委派功能。

使用 Rust 實現快速、串流式的索引、查詢與 Agentic LLM 應用程式

利用 LLM 建構應用實踐筆記

LLM 全端優質資源彙整

檢視你的編碼代理程式做了什麼以及花費了多少成本。將每個任務拆解為工作步驟——使用的工具、變更的檔案、執行的測試、花費的時間與 Token。針對 Claude Code、Codex、OpenCode 等工具的本機優先儀表板。無需登入、無遙測資料。

LLMFlows - 簡單、明確且透明的 LLM 應用程式

基於 LLM 模型的端到端生成式 AI 行業專案與部署_Awesome LLM Projects

Hands-on, framework-free Colab notebooks for the AI Engineer / Forward Deployed Engineer (FDE) skill set — model APIs, structured output, tool calling, RAG, evals-as-the-spine, agents (loop from scratch, tool design, guardrails, MCP, Skills), fine-tuning vs LoRA, prompt-injection/security, LLMOps, and customer craft. Runs on the free Groq API.

唯一完全本地化、生產級的 Super SDK，為呼叫超過 200 種以上的 LLM 提供簡單、統一且強大的介面。

使用 Lynkr 簡化您的工作流程，這是一個透過 Claude Code CLI 進行高效程式碼互動的 HTTP 代理 CLI 工具。