kvcache-ai/Mooncake

Mooncake 是 Moonshot AI 提供的领先 LLM 服务 Kimi 的服务平台

↗ 在 GitHub 打开

星数

6,470

Fork 数

1,161

语言

C++

许可

Apache-2.0

最后推送

1周前

C++llm vllm reinforcement-learning inference sglang rdma disaggregation kvcache tokenspeed trt-llm

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。