model-compression

Backbones de IA eficientes, incluindo GhostNet, TNT e MLP, desenvolvidos pelo Huawei Noah's Ark Lab.

Awesome Knowledge Distillation

[CVPR 2023] DepGraph: Rumo a qualquer poda estrutural; LLMs, modelos de base de visão, etc.

Modelo de linguagem pré-treinado e suas técnicas de otimização relacionadas desenvolvidas pelo Huawei Noah's Ark Lab.

Uma lista curada de recursos sobre poda de redes neurais.

Uma lista de artigos, documentos e códigos sobre quantização de modelos. Este repositório visa fornecer informações para pesquisa em quantização de modelos e está em constante melhoria. Contribuições (PRs) de trabalhos ausentes são bem-vindas.

micronet, uma biblioteca de compressão e implantação de modelos. Compressão: 1. Quantização: QAT, High-Bit (>2b), Low-Bit (≤2b)/Ternary e Binary (TWN/BNN/XNOR-Net); PTQ, 8-bit (tensorrt); 2. Poda: normal, regular e poda de canal convolucional em grupo.

Um kit de ferramentas para otimizar modelos de ML para implantação em Keras e TensorFlow, incluindo quantização e poda.

Métodos de computação eficiente desenvolvidos pelo Huawei Noah's Ark Lab

Poda de canais para acelerar redes neurais muito profundas (ICCV'17)

[CVPR 2024] DeepCache: Acelerando Modelos de Difusão Gratuitamente

Coleção de métodos recentes sobre compressão e aceleração de redes neurais (profundas).

TinyNeuralNetwork é um framework de compressão de modelos de deep learning eficiente e fácil de usar.

Lista de artigos relacionados à quantização de redes neurais em conferências e periódicos recentes de IA.

[ICML 2024] SqueezeLLM: Quantização densa e esparsa

Artigos de pesquisa, quantização, ferramentas e material de aprendizagem incríveis sobre compressão de modelos de machine learning.