microsoft/vattention
@microsoft在不使用 PagedAttention 的情況下，為服務 LLM 提供的動態記憶體管理。
星數
519
Fork 數
46
語言
C
授權
MIT
最後推送
2 週前
相關情報（0）
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。
在不使用 PagedAttention 的情況下，為服務 LLM 提供的動態記憶體管理。
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。