EricLBuehler/candle-vllm
@EricLBuehler高效的本地 LLM 推論與服務平台,包含相容 OpenAI 的 API 伺服器。
星數
722
Fork 數
88
語言
Rust
授權
MIT
最後推送
4 天前
相關情報(0)
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。
高效的本地 LLM 推論與服務平台,包含相容 OpenAI 的 API 伺服器。
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。