kacper-daftcode/vLLM-Moet
@kacper-daftcode结合 vLLM 修补程序与手写 SM120 SASS 内核:包含 2-bit MoE 专家模型与可恢复精度的 FP4“delta”缓存,在消费级 Blackwell 显卡上达到与官方 (NV)FP4 检查点相同的质量。
星数
538
Fork 数
50
语言
Sass
许可
Apache-2.0
最后推送
17小时前
相关情报(0)
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。