pruning

Tutorial de Deep Learning de Hung-yi Lee (recomendado pelo professor Hung-yi Lee, Apple Book), link para download em PDF: https://github.com/datawhalechina/leedl-tutorial/releases

[CVPR 2023] DepGraph: Rumo a qualquer poda estrutural; LLMs, modelos de base de visão, etc.

Quantização SOTA de LLM de baixo bit (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) e esparsidade; técnicas líderes de compressão de modelos em PyTorch, TensorFlow e ONNX Runtime.

AIMET é uma biblioteca que fornece técnicas avançadas de quantização e compressão para modelos de redes neurais treinados.

Uma lista curada de recursos sobre poda de redes neurais.

micronet, uma biblioteca de compressão e implantação de modelos. Compressão: 1. Quantização: QAT, High-Bit (>2b), Low-Bit (≤2b)/Ternary e Binary (TWN/BNN/XNOR-Net); PTQ, 8-bit (tensorrt); 2. Poda: normal, regular e poda de canal convolucional em grupo.

CLI de backup fácil e orientada por configuração para o restic.

Curso prático sobre grandes modelos de linguagem (LLMs).

Caixa de ferramentas e benchmark de compressão de modelos OpenMMLab.

PaddleSlim é uma biblioteca de código aberto para compressão de modelos profundos e busca de arquitetura.

Um kit de ferramentas para otimizar modelos de ML para implantação em Keras e TensorFlow, incluindo quantização e poda.

Métodos de computação eficiente desenvolvidos pelo Huawei Noah's Ark Lab

Framework de compressão de redes neurais para inferência aprimorada com OpenVINO™

[NeurIPS 2023] LLM-Pruner: Sobre a poda estrutural de Large Language Models. Suporta Llama-3/3.1, Llama-2, LLaMA, BLOOM, Vicuna, Baichuan, TinyLlama, etc.

TinyNeuralNetwork é um framework de compressão de modelos de deep learning eficiente e fácil de usar.

[EMNLP 2024 & AAAI 2026] Um poderoso kit de ferramentas para compressão de grandes modelos, incluindo LLMs, VLMs e modelos gerativos de vídeo.

[ICLR 2024] Sheared LLaMA: Acelerando o pré-treinamento de modelos de linguagem por meio de poda estruturada

Artigos de pesquisa, quantização, ferramentas e material de aprendizagem incríveis sobre compressão de modelos de machine learning.