Sujet · int4
int4
Dépôts open source suivis étiquetés int4, triés par étoiles.
Dépôts
3
Total d'étoiles
5 058
Étoiles en moyenne
1 686
Part
0,00%
Sujets associés
Sujets qui apparaissent souvent aux côtés de int4 sur un même dépôt.
Ascensions récentes
Dépôts créés au cours des 90 derniers jours et étiquetés int4.
Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.
- #1
Quantification LLM faible bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) et sparsité ; techniques de compression de modèles de pointe pour PyTorch, TensorFlow et ONNX Runtime.
★ 2 706+0Évolution des étoiles sur les 7 derniers jours - #2
Un algorithme de quantification SOTA pour l'inférence LLM basse précision haute précision, optimisé pour CPU/XPU/CUDA, avec support multi-type et compatibilité totale avec vLLM, SGLang et Transformers.
★ 1 599+8Évolution des étoiles sur les 7 derniers jours - #3
Optimisation de multiplication de matrices en mode row-major
★ 753+0Évolution des étoiles sur les 7 derniers jours
