pruning

《李宏毅深度学习教程》（李宏毅老师推荐👍，苹果书🍎），PDF 下载地址：https://github.com/datawhalechina/leedl-tutorial/releases

[CVPR 2023] DepGraph：迈向任意结构剪枝；LLMs、视觉基础模型等。

领先的低比特大型语言模型（LLM）量化（INT8/FP8/MXFP8/INT4/MXFP4/NVFP4）与稀疏化技术；基于 PyTorch、TensorFlow 和 ONNX Runtime 的顶尖模型压缩技术

AIMET 是一个为训练好的神经网络模型提供先进量化与压缩技术的库。

神经网络剪枝资源精选清单。

micronet 是一个模型压缩与部署库。压缩：1、量化：量化感知训练 (QAT)、高比特 (>2b)、低比特 (≤2b)/三元与二元；后训练量化 (PTQ)、8 比特 (tensorrt)；2、剪枝：正常、规则与群组卷积通道剪枝；3、群组

配置驱动、简单易用的 restic 备份命令行工具。

关于大型语言模型的实战课程。

OpenMMLab 模型压缩工具箱与基准测试。

PaddleSlim 是一个用于深度模型压缩与架构搜索的开源库。

用于优化 Keras 与 TensorFlow 部署模型的工具包，包含量化与剪枝。

由 Huawei Noah's Ark Lab 开发的高效计算方法

用于增强 OpenVINO™ 推理的神经网络压缩框架

[NeurIPS 2023] LLM-Pruner：大型语言模型的结构化剪枝。支持 Llama-3/3.1、Llama-2、LLaMA、BLOOM、Vicuna、Baichuan、TinyLlama 等。

TinyNeuralNetwork 是一个高效且易用的深度学习模型压缩框架。

[EMNLP 2024 & AAAI 2026] 一个强大的大型模型压缩工具包，包含 LLM、VLM 及视频生成模型。

[ICLR 2024] Sheared LLaMA：通过结构化剪枝加速语言模型预训练

机器学习模型压缩研究论文、量化技术、工具及学习资源精选。