kacper-daftcode/vLLM-Moet
@kacper-daftcodeUn patch vLLM avec des noyaux SASS SM120 écrits à la main : experts MoE 2 bits + cache « delta » FP4 pour restaurer la précision, égalant la qualité des points de contrôle officiels (NV)FP4 sur les cartes Blackwell grand public.
Étoiles
538
Bifurcations
50
Langage
Sass
Licence
Apache-2.0
Dernier push
il y a 3 jours
Intel associée (0)
Aucune intel associée pour le moment
Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.