openai-compatible-proxy-server

使用 Go 語言編寫的 AI gateway / AI control plane / AI proxy。為 OpenAI、Anthropic、Gemini、Groq、xAI、Ollama、vLLM 等提供統一的 OpenAI 相容與 Anthropic 相容 API。作為 LiteLLM 的替代方案，具備可觀測性、安全護欄、串流、成本追蹤、智慧路由、黏性工作階段、容錯移轉、即時日誌與使用量追蹤。生產就緒。