kacper-daftcode/vLLM-Moet
@kacper-daftcodevLLM パッチと手動記述された SM120 SASS カーネル：2ビット MoE エキスパートと、精度を回復する FP4「デルタ」キャッシュを組み合わせ、コンシューマー向け Blackwell カード上で公式（NV）FP4 チェックポイントの品質に匹敵する性能を実現
スター
540
フォーク
50
言語
Sass
ライセンス
Apache-2.0
最終プッシュ
2 日前
関連 Intel（0）
関連 Intel はまだありません
このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。