Tópico · int4
int4
Repositórios de código aberto acompanhados marcados com int4, ordenados por estrelas.
Repositórios
3
Total de estrelas
5.050
Média de estrelas
1.683
Participação
0,00%
Tópicos relacionados
Tópicos que aparecem com frequência ao lado de int4 no mesmo repositório.
Em ascensão recentemente
Repositórios criados nos últimos 90 dias e marcados com int4.
Nenhum repositório novo marcado com este tópico nos últimos 90 dias.
- #1
Quantização SOTA de LLM de baixo bit (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) e esparsidade; técnicas líderes de compressão de modelos em PyTorch, TensorFlow e ONNX Runtime.
★ 2.706+5Variação de estrelas nos últimos 7 dias - #2
Um algoritmo de quantização SOTA para inferência de LLM de baixo bit e alta precisão, otimizado para CPU/XPU/CUDA, com suporte a múltiplos tipos de dados e compatibilidade total com vLLM, SGLang e Transformers.
★ 1.597+15Variação de estrelas nos últimos 7 dias - #3
Otimização de multiplicação de matrizes em ordem majoritária por linhas (row-major)
★ 753+2Variação de estrelas nos últimos 7 dias
