kvcache-ai 收錄中的開源專案,依星數排序。
一個靈活的框架,用於體驗異構 LLM 推理/微調優化。
Mooncake 是 Moonshot AI 提供的領先 LLM 服務 Kimi 的服務平台
AgentENV (AENV) 是一個用於大規模執行 Agent 環境的分散式平台。