fp4
Các kho mã nguồn mở đang theo dõi được gắn thẻ fp4, sắp xếp theo số sao.
Chủ đề liên quan
Những chủ đề thường xuất hiện cùng fp4 trên cùng một kho mã.
Mới nổi gần đây
Các kho mã tạo trong 90 ngày qua và được gắn thẻ fp4.
Không có kho mã mới nào gắn thẻ chủ đề này trong 90 ngày qua.
- #1
Một thư viện tăng tốc các mô hình Transformer trên GPU NVIDIA, bao gồm sử dụng độ chính xác dấu phẩy động 8-bit và 4-bit (FP8 và FP4) trên GPU Hopper, Ada và Blackwell, nhằm cung cấp hiệu suất tốt hơn với mức sử dụng bộ nhớ thấp hơn trong cả quá trình huấn luyện và suy luận.
★ 3.509+10Thay đổi số sao trong 7 ngày qua - #2
Lượng tử hóa LLM low-bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & độ thưa (sparsity); các kỹ thuật nén mô hình hàng đầu trên PyTorch, TensorFlow và ONNX Runtime
★ 2.706+5Thay đổi số sao trong 7 ngày qua - #3
Bộ công cụ nén mô hình được thiết kế để nâng cao tính dễ sử dụng, tính toàn diện và hiệu quả.
★ 1.579+23Thay đổi số sao trong 7 ngày qua
