kacper-daftcode/vLLM-Moet
@kacper-daftcodeएक vLLM पैच + हस्तलिखित SM120 SASS कर्नल: 2-बिट MoE एक्सपर्ट्स + एक FP4 "डेल्टा" कैश जो प्रिसिजन को रिकवर करता है — कंज्यूमर Blackwell कार्ड्स पर आधिकारिक (NV)FP4 चेकपॉइंट की गुणवत्ता से मेल खाता है
स्टार
540
फ़ोर्क
50
भाषा
Sass
लाइसेंस
Apache-2.0
आख़िरी push
2 दिन पहले
संबंधित intel (0)
अभी कोई संबंधित intel नहीं
यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।