llm-gateway

永不停止編碼。免費 MIT AI 閘道：單一端點，340 個供應商（90+ 免費），1200+ 模型 — 包括 Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax。支援 Claude Code、Codex、Cursor、OpenCode、Cline 與 Copilot。具配額感知自動回退、RTK+Caveman 壓縮節省 15-95% 代幣，MCP/A2A，桌面/PWA。由 450+ 貢獻者打造。

最快、最輕量的 AI 閘道。Rust 核心搭配 Python SDK。以 OpenAI（或原生）格式呼叫超過 100 種 LLM API，具成本追蹤、保護機制、負載平衡與日誌功能 [Bedrock、Azure、OpenAI、Anthropic、OpenAI、VertexAI、vLLM、Nvidia NIM]

🦍 API 與 AI 閘道

無限制免費 AI 程式碼編寫。連接 Claude Code、Codex、Cursor、Cline、Copilot、Antigravity 至 40+ 提供者的免費 Claude/GPT/Gemini。自動回退、RTK -40% 代幣，永不觸發上限。

高速 AI 閘道，內建安全防護。支援 1,600 多種大型語言模型與 50 多項 AI 防護，提供快速友好的 API

🚀 下一代多租戶 AI 一站式解決方案。內建管理與計費系統。企業級統一 LLM 閘道，支援 200 多種模型與 35+ 供應商，具優先級路由的負載平衡、成本管理、聊天分享、雲端同步、信用/訂閱計費、全部檔案解析、網路搜尋、內建模型快取。

最快的企業級 AI 閘道（比 LiteLLM 快 50 倍），具備自適應負載平衡、叢集模式、守護欄、支援 1000+ 模型，且在 5k RPS 時的額外延遲低於 100 µs。

Plano 是一個 AI 原生代理伺服器與資料平面，為代理應用提供智能 LLM 路由、可觀測性、代理編排與安全防護，讓你專注於核心邏輯

具備智慧金鑰輪換的多通道 AI 代理

一個匯聚所有 LLM 的平台 | 為個人打造的 LLM API 聚合網關

雲原生、超高效能 AI&API 閘道器，LLM API 管理、分發系統、開放平台，支援所有 AI API，包含 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、位元組豆包、ChatGLM、文心一言、訊飛星火、通義千問、360 智腦、騰訊混元等主流模型，統一 API 請求與返回、API 申請與審批、呼叫統計、負載平衡、多模型災備。一鍵部署，開箱即用。

透過統一的 API 介面，跨多個供應商路由、管理和分析您的 LLM 請求。

針對 AI 編碼代理的無損壓縮閘道器。在第一輪對話中可減少 25% 的 Token 費用，在長期或高負載對話中最高可達 85%，並在相同的上下文視窗中塞入約 3 倍的對話輪數。由我們的開源程式碼原生 4B 模型驅動。可無縫整合 Claude Code、Cursor、Codex、OpenHands 以及任何 BASE_URL 代理。

使用 Go 語言編寫的 AI gateway / AI control plane / AI proxy。為 OpenAI、Anthropic、Gemini、Groq、xAI、Ollama、vLLM 等提供統一的 OpenAI 相容與 Anthropic 相容 API。作為 LiteLLM 的替代方案，具備可觀測性、安全護欄、串流、成本追蹤、智慧路由、黏性工作階段、容錯移轉、即時日誌與使用量追蹤。生產就緒。

調試您的 AI 代理

開源 LLM 路由器與 AI 成本最佳化工具。自動將簡單的提示詞路由至便宜/本地模型，複雜的路由至高階模型。支援 Claude Code、Codex、Cursor、OpenClaw 的相容 OpenAI 代理。可節省 40-70% 的 AI API 成本。可自行架設，無中間商。

使用 Lynkr 簡化您的工作流程，這是一個透過 Claude Code CLI 進行高效程式碼互動的 HTTP 代理 CLI 工具。