llumnix-project/llumnix-ray
@llumnix-project高效且易于使用的多实例 LLM 推理服务。
星数
562
Fork 数
50
语言
Python
许可
Apache-2.0
最后推送
6个月前
相关情报（0）
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。
高效且易于使用的多实例 LLM 推理服务。
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。