vllm-project/semantic-router
@vllm-project一个可编程的混合模型路由器,用于异质 LLM 推理。
星数
5,506
Fork 数
892
语言
Go
许可
Apache-2.0
最后推送
1周前
相关情报(0)
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。
一个可编程的混合模型路由器,用于异质 LLM 推理。
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。