microsoft/vattention
@microsoft在不使用 PagedAttention 的情况下，为服务 LLM 提供的动态内存管理。
星数
519
Fork 数
46
语言
C
许可
MIT
最后推送
2周前
相关情报（0）
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。
在不使用 PagedAttention 的情况下，为服务 LLM 提供的动态内存管理。
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。