model-compression

Huawei Noah's Ark Lab द्वारा विकसित GhostNet, TNT और MLP सहित कुशल AI बैकबोन।

अद्भुत नॉलेज डिस्टिलेशन

[CVPR 2023] DepGraph: किसी भी संरचनात्मक छंटाई की ओर; LLMs, Vision Foundation Models, आदि।

Huawei Noah's Ark Lab द्वारा विकसित प्री-ट्रेन भाषा मॉडल और इससे संबंधित ऑप्टिमाइज़ेशन तकनीक।

न्यूरल नेटवर्क प्रूनिंग संसाधनों की एक क्यूरेटेड सूची

मॉडल क्वांटाइजेशन के बारे में पेपर्स, डॉक्स और कोड की एक सूची। इस रिपो का उद्देश्य मॉडल क्वांटाइजेशन रिसर्च के लिए जानकारी प्रदान करना है, हम लगातार प्रोजेक्ट में सुधार कर रहे हैं। छूटे हुए कार्यों (पेपर्स, रिपॉजिटरी) के लिए PR का स्वागत है।

micronet, एक मॉडल संपीड़न और परिनियोजन पुस्तकालय। संपीड़न: 1, मात्रात्मकता: मात्रात्मकता-जागरूक प्रशिक्षण (QAT), हाई-बिट (>2b), लो-बिट (≤2b)/टर्नरी और बाइनरी; पोस्ट-ट्रेनिंग मात्रात्मकता (PTQ), 8-बिट (tensorrt); 2, प्रूनिंग: सामान्य, नियमित और समूह कन्वल्यूशनल चैनल प्रूनिंग; 3, समूह

Keras और TensorFlow के लिए डिप्लॉयमेंट हेतु ML मॉडल को अनुकूलित करने वाला टूलकिट, जिसमें क्वांटाइजेशन और प्रूनिंग शामिल है।

Huawei Noah's Ark Lab द्वारा विकसित कुशल कंप्यूटिंग विधियाँ

बहुत गहरे न्यूरल नेटवर्क को गति देने के लिए चैनल प्रूनिंग (ICCV'17)

[CVPR 2024] DeepCache: डिफ्यूजन मॉडल को मुफ्त में गति देना

(डीप) न्यूरल नेटवर्क कंप्रेशन और एक्सेलेरेशन पर हालिया विधियों का संग्रह।

TinyNeuralNetwork एक कुशल और उपयोग में आसान डीप लर्निंग मॉडल कम्प्रेशन फ्रेमवर्क है।

हालिया AI सम्मेलनों और पत्रिकाओं में न्यूरल नेटवर्क क्वांटाइजेशन से संबंधित शोध पत्रों की सूची।

[ICML 2024] SqueezeLLM: डेंस-एंड-स्पार्स क्वांटाइजेशन।

मशीन लर्निंग मॉडल कम्प्रेशन रिसर्च पेपर, क्वांटाइजेशन, टूल्स और शिक्षण सामग्री का संग्रह।