主题 · kvcache

kvcache

标记 kvcache 主题、收录中的开源项目，按星标数排序。

项目数

5

总星标数

11,014

平均星标数

2,203

占比

0.00%

常跟 kvcache 一起出现在同一个项目上的主题。

近期新秀

近 90 天内创建、标记 kvcache 主题的项目。

近 90 天内还没有新项目标记这个主题。

#1
Mooncake ↗@kvcache-aiC++
Mooncake 是 Moonshot AI 提供的领先 LLM 服务 Kimi 的服务平台
★ 6,470+40近 7 天星标变化
#2
uccl ↗@uccl-projectC++
UCCL 是一个高效的 GPU 通信库，涵盖集合通信、P2P（例如 KV 缓存传输、RL 权重传输）以及 EP（例如 GPU 驱动）
★ 1,502+3近 7 天星标变化
#3
kvcached ↗@ovg-projectPython
用于动态 GPU 共享及更高应用的虚拟化弹性 KV 缓存
★ 1,275+130近 7 天星标变化
#4
R-KV ↗@Zefan-CaiPython
[Neurips 2025] R-KV：推理模型的冗余感知 KV 缓存压缩
★ 1,211+2近 7 天星标变化
#5
inferoa ↗@agentic-inTypeScript
Inference-native Tokenmaxxing Agent Harness for Loop Engineering
★ 561—近 7 天星标变化

← 返回主题列表