kacper-daftcode/vLLM-Moet
@kacper-daftcode結合 vLLM 修補程式與手寫 SM120 SASS 核心:包含 2-bit MoE 專家模型與可恢復精度的 FP4「delta」快取,在消費級 Blackwell 顯卡上達到與官方 (NV)FP4 檢查點相同的品質。
星數
540
Fork 數
50
語言
Sass
授權
Apache-2.0
最後推送
2 天前
相關情報(0)
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。