kacper-daftcode/vLLM-Moet
@kacper-daftcodeUm patch do vLLM + kernels SM120 SASS escritos à mão: especialistas MoE de 2 bits + um cache "delta" FP4 que recupera a precisão — igualando a qualidade do checkpoint (NV)FP4 oficial em placas Blackwell de consumo
Estrelas
540
Bifurcações
50
Linguagem
Sass
Licença
Apache-2.0
Último push
há 2 dias
Intel relacionado (0)
Ainda não há intel relacionado
Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.