kacper-daftcode/vLLM-Moet
@kacper-daftcodeEin vLLM-Patch mit handgeschriebenen SM120 SASS-Kernels: 2-Bit MoE-Experten und ein FP4-Delta-Cache zur Präzisionswiederherstellung, der die Qualität offizieller (NV)FP4-Checkpoints auf Blackwell-Consumer-Grafikkarten erreicht.
Sterne
540
Forks
50
Sprache
Sass
Lizenz
Apache-2.0
Letzter Push
vor 2 Tagen
Verwandte Intel (0)
Noch keine verwandte Intel
Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.