kvcache-ai/Mooncake

Mooncake 是 Moonshot AI 提供的領先 LLM 服務 Kimi 的服務平台

↗ 在 GitHub 開啟

星數

6,470

Fork 數

1,161

語言

C++

授權

Apache-2.0

最後推送

1 週前

C++llm vllm reinforcement-learning inference sglang rdma disaggregation kvcache tokenspeed trt-llm

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。