fp4
Repositórios de código aberto acompanhados marcados com fp4, ordenados por estrelas.
Tópicos relacionados
Tópicos que aparecem com frequência ao lado de fp4 no mesmo repositório.
Em ascensão recentemente
Repositórios criados nos últimos 90 dias e marcados com fp4.
Nenhum repositório novo marcado com este tópico nos últimos 90 dias.
- #1
Uma biblioteca para acelerar modelos Transformer em GPUs NVIDIA, incluindo o uso de precisão de ponto flutuante de 8 bits e 4 bits (FP8 e FP4) em GPUs Hopper, Ada e Blackwell, proporcionando melhor desempenho com menor uso de memória tanto no treinamento quanto na inferência.
★ 3.518+9Variação de estrelas nos últimos 7 dias - #2
Quantização SOTA de LLM de baixo bit (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) e esparsidade; técnicas líderes de compressão de modelos em PyTorch, TensorFlow e ONNX Runtime.
★ 2.706+0Variação de estrelas nos últimos 7 dias - #3
Toolkit de compressão de modelos projetado para maior usabilidade, abrangência e eficiência.
★ 1.619+58Variação de estrelas nos últimos 7 dias
