vllm-project/semantic-router

一個可編程的混合模型路由器，用於異質 LLM 推理。

↗ 在 GitHub 開啟

星數

5,740

Fork 數

935

語言

Go

授權

Apache-2.0

最後推送

3 小時前

Go llm kubernetes vllm transformer pytorch inference ai-gateway guardrails llmrouter mixture-of-models semantic-router

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。