rednote-machine-learning/RedKnot
@rednote-machine-learning通过感知 KV 重用与 SegPagedAttention 实现高效长文本 LLM 服务
星数
2,105
Fork 数
858
语言
Python
许可
Apache-2.0
最后推送
7天前
相关情报（0）
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。
通过感知 KV 重用与 SegPagedAttention 实现高效长文本 LLM 服务
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。