fp4
Dépôts open source suivis étiquetés fp4, triés par étoiles.
Sujets associés
Sujets qui apparaissent souvent aux côtés de fp4 sur un même dépôt.
Ascensions récentes
Dépôts créés au cours des 90 derniers jours et étiquetés fp4.
Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.
- #1
Une bibliothèque pour accélérer les modèles Transformer sur les GPU NVIDIA, incluant l'utilisation de la précision en virgule flottante 8 bits et 4 bits (FP8 et FP4) sur les GPU Hopper, Ada et Blackwell, pour offrir de meilleures performances avec une utilisation mémoire réduite lors de l'entraînement et de l'inférence.
★ 3 509+10Évolution des étoiles sur les 7 derniers jours - #2
Quantification LLM faible bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) et sparsité ; techniques de compression de modèles de pointe pour PyTorch, TensorFlow et ONNX Runtime.
★ 2 706+5Évolution des étoiles sur les 7 derniers jours - #3
Boîte à outils de compression de modèles conçue pour une meilleure utilisabilité, exhaustivité et efficacité.
★ 1 579+23Évolution des étoiles sur les 7 derniers jours
