pruning

Hướng dẫn Học sâu của Lý Hoành Nghị (được thầy Lý Hoành Nghị khuyến nghị 👍, Sách Táo 🍎), địa chỉ tải PDF: https://github.com/datawhalechina/leedl-tutorial/releases

[CVPR 2023] DepGraph: Hướng tới Cắt tỉa Cấu trúc Bất kỳ; LLMs, Vision Foundation Models, v.v.

Lượng tử hóa LLM low-bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & độ thưa (sparsity); các kỹ thuật nén mô hình hàng đầu trên PyTorch, TensorFlow và ONNX Runtime

AIMET là một thư viện cung cấp các kỹ thuật lượng tử hóa và nén nâng cao cho các mô hình mạng nơ-ron đã được huấn luyện.

Danh sách tổng hợp các tài nguyên tỉa mạng neural.

micronet, thư viện nén và triển khai mô hình. nén: 1、lượng tử hóa: lượng tử hóa khi huấn luyện (QAT), High-Bit (>2b), Low-Bit (≤2b); lượng tử hóa sau huấn luyện (PTQ), 8-bit (tensorrt); 2、cắt tỉa: cắt tỉa kênh tích chập thông thường, đều và theo nhóm; 3、group

CLI sao lưu cho restic dựa trên cấu hình, dễ sử dụng.

Khóa học thực tế về Các Mô hình Ngôn ngữ Lớn.

Bộ công cụ và benchmark nén mô hình OpenMMLab.

PaddleSlim là một thư viện mã nguồn mở dùng để nén mô hình sâu và tìm kiếm kiến trúc.

Bộ công cụ tối ưu hóa các mô hình ML để triển khai cho Keras và TensorFlow, bao gồm lượng tử hóa và tỉa nhánh.

Các phương pháp tính toán hiệu quả được phát triển bởi Huawei Noah's Ark Lab

Framework nén mạng nơ-ron để tăng cường suy luận OpenVINO™

[NeurIPS 2023] LLM-Pruner: Về việc cắt tỉa cấu trúc của các Mô hình Ngôn ngữ Lớn. Hỗ trợ Llama-3/3.1, Llama-2, LLaMA, BLOOM, Vicuna, Baichuan, TinyLlama, v.v.

TinyNeuralNetwork là một framework nén mô hình deep learning hiệu quả và dễ sử dụng.

[EMNLP 2024 & AAAI 2026] Bộ công cụ mạnh mẽ để nén các mô hình lớn bao gồm LLM, VLM và các mô hình tạo video

[ICLR 2024] Sheared LLaMA: Tăng tốc tiền huấn luyện mô hình ngôn ngữ thông qua cắt tỉa có cấu trúc

Tổng hợp các bài báo nghiên cứu, công cụ, kỹ thuật lượng tử hóa và tài liệu học tập về nén mô hình học máy.