kacper-daftcode/vLLM-Moet
@kacper-daftcodeUn parche para vLLM junto con kernels SASS SM120 escritos a mano: expertos MoE de 2 bits + una caché "delta" FP4 que recupera la precisión, igualando la calidad de los puntos de control oficiales (NV)FP4 en tarjetas Blackwell de consumo.
Estrellas
538
Bifurcaciones
50
Lenguaje
Sass
Licencia
Apache-2.0
Último push
hace 23 horas
Intel relacionado (0)
Aún no hay intel relacionado
Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.