EricLBuehler/candle-vllm
@EricLBuehler高效的本地 LLM 推理与服务平台，包含兼容 OpenAI 的 API 服务器。
星数
724
Fork 数
89
语言
Rust
许可
MIT
最后推送
4天前
相关情报（0）
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。
高效的本地 LLM 推理与服务平台，包含兼容 OpenAI 的 API 服务器。
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。