pruning

《ली होंगयी डीप लर्निंग ट्यूटोरियल》（प्रोफेसर ली होंगयी द्वारा अनुशंसित👍, एप्पल बुक🍎）, PDF डाउनलोड लिंक: https://github.com/datawhalechina/leedl-tutorial/releases

[CVPR 2023] DepGraph: किसी भी संरचनात्मक छंटाई की ओर; LLMs, Vision Foundation Models, आदि।

SOTA लो-बिट LLM क्वांटाइजेशन (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) और स्पार्सीटी; PyTorch, TensorFlow और ONNX Runtime पर अग्रणी मॉडल संपीड़न तकनीकें

AIMET एक ऐसी लाइब्रेरी है जो प्रशिक्षित तंत्रिका नेटवर्क (neural network) मॉडल के लिए उन्नत परिमाणन (quantization) और संपीड़न तकनीक प्रदान करती है।

न्यूरल नेटवर्क प्रूनिंग संसाधनों की एक क्यूरेटेड सूची

micronet, एक मॉडल संपीड़न और परिनियोजन पुस्तकालय। संपीड़न: 1, मात्रात्मकता: मात्रात्मकता-जागरूक प्रशिक्षण (QAT), हाई-बिट (>2b), लो-बिट (≤2b)/टर्नरी और बाइनरी; पोस्ट-ट्रेनिंग मात्रात्मकता (PTQ), 8-बिट (tensorrt); 2, प्रूनिंग: सामान्य, नियमित और समूह कन्वल्यूशनल चैनल प्रूनिंग; 3, समूह

restic के लिए कॉन्फिग चालित, आसान बैकअप CLI।

लार्ज लैंग्वेज मॉडल के बारे में व्यावहारिक पाठ्यक्रम।

OpenMMLab मॉडल कॉम्प्रेशन टूलबॉक्स और बेंचमार्क।

PaddleSlim डीप मॉडल संपीड़न और आर्किटेक्चर खोज के लिए एक ओपन-सोर्स लाइब्रेरी है।

Keras और TensorFlow के लिए डिप्लॉयमेंट हेतु ML मॉडल को अनुकूलित करने वाला टूलकिट, जिसमें क्वांटाइजेशन और प्रूनिंग शामिल है।

Huawei Noah's Ark Lab द्वारा विकसित कुशल कंप्यूटिंग विधियाँ

बेहतर OpenVINO™ inference के लिए Neural Network Compression Framework

[NeurIPS 2023] LLM-Pruner: लार्ज लैंग्वेज मॉडल की स्ट्रक्चरल प्रूनिंग पर। Llama-3/3.1, Llama-2, LLaMA, BLOOM, Vicuna, Baichuan, TinyLlama आदि का समर्थन करता है।

TinyNeuralNetwork एक कुशल और उपयोग में आसान डीप लर्निंग मॉडल कम्प्रेशन फ्रेमवर्क है।

[EMNLP 2024 & AAAI 2026] LLMs, VLMs और वीडियो जेनरेटिव मॉडल सहित बड़े मॉडलों को कंप्रेस करने के लिए एक शक्तिशाली टूलकिट।

[ICLR 2024] Sheared LLaMA: स्ट्रक्चर्ड प्रूनिंग के माध्यम से लैंग्वेज मॉडल प्री-ट्रेनिंग को गति देना

मशीन लर्निंग मॉडल कम्प्रेशन रिसर्च पेपर, क्वांटाइजेशन, टूल्स और शिक्षण सामग्री का संग्रह।