pruning

《李宏毅深度學習教程》（李宏毅老師推薦👍，蘋果書🍎），PDF 下載地址：https://github.com/datawhalechina/leedl-tutorial/releases

[CVPR 2023] DepGraph：邁向任意結構剪枝；LLMs、視覺基礎模型等。

領先的低位元大型語言模型（LLM）量化（INT8/FP8/MXFP8/INT4/MXFP4/NVFP4）與稀疏化技術；基於 PyTorch、TensorFlow 和 ONNX Runtime 的頂尖模型壓縮技術

AIMET 是一個為訓練好的類神經網路模型提供先進量化與壓縮技術的函式庫。

神經網路剪枝資源精選清單。

micronet 是一個模型壓縮與部署庫。壓縮：1、量化：量化感知訓練 (QAT)、高位元 (>2b)、低位元 (≤2b)/三元與二元；後訓練量化 (PTQ)、8 位元 (tensorrt)；2、剪枝：正常、規則與群組卷積通道剪枝；3、群組

組態驅動、簡單易用的 restic 備份命令列工具。

關於大型語言模型的實戰課程。

OpenMMLab 模型壓縮工具箱與基準測試。

PaddleSlim 是一個用於深度模型壓縮與架構搜尋的開源函式庫。

用於最佳化 Keras 與 TensorFlow 部署模型的工具包，包含量化與剪枝。

由 Huawei Noah's Ark Lab 開發的高效運算方法

用於增強 OpenVINO™ 推理的神經網路壓縮框架

[NeurIPS 2023] LLM-Pruner：大型語言模型的結構化剪枝。支援 Llama-3/3.1、Llama-2、LLaMA、BLOOM、Vicuna、Baichuan、TinyLlama 等。

TinyNeuralNetwork 是一個高效且易用的深度學習模型壓縮框架。

[EMNLP 2024 & AAAI 2026] 一個強大的大型模型壓縮工具包，包含 LLM、VLM 及影片生成模型。

[ICLR 2024] Sheared LLaMA：透過結構化剪枝加速語言模型預訓練

機器學習模型壓縮研究論文、量化技術、工具及學習資源精選。