跳到主要内容
buildradar
Sign in

kacper-daftcode/vLLM-Moet

@kacper-daftcode

结合 vLLM 修补程序与手写 SM120 SASS 内核:包含 2-bit MoE 专家模型与可恢复精度的 FP4“delta”缓存,在消费级 Blackwell 显卡上达到与官方 (NV)FP4 检查点相同的质量。

星数
538
Fork 数
50
语言
Sass
许可
Apache-2.0
最后推送
17小时前
Sass

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。