fp4
Repositori open source terpantau bertanda fp4, diurutkan berdasarkan bintang.
Topik terkait
Topik yang sering muncul berdampingan dengan fp4 di repositori yang sama.
Yang sedang naik
Repositori yang dibuat dalam 90 hari terakhir dan bertanda fp4.
Tidak ada repositori baru bertanda topik ini dalam 90 hari terakhir.
- #1
Sebuah pustaka untuk mengakselerasi model Transformer pada GPU NVIDIA, termasuk menggunakan presisi floating point 8-bit dan 4-bit (FP8 dan FP4) pada GPU Hopper, Ada, dan Blackwell, untuk memberikan performa yang lebih baik dengan penggunaan memori yang lebih rendah baik dalam pelatihan maupun inferensi.
★ 3.518+9Perubahan bintang dalam 7 hari terakhir - #2
Kuantisasi LLM low-bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & sparsity; teknik kompresi model terdepan pada PyTorch, TensorFlow, dan ONNX Runtime
★ 2.706+0Perubahan bintang dalam 7 hari terakhir - #3
Toolkit kompresi model yang direkayasa untuk kemudahan penggunaan, kelengkapan, dan efisiensi yang ditingkatkan.
★ 1.619+58Perubahan bintang dalam 7 hari terakhir
