post-training-quantization
Các kho mã nguồn mở đang theo dõi được gắn thẻ post-training-quantization, sắp xếp theo số sao.
Chủ đề liên quan
Những chủ đề thường xuất hiện cùng post-training-quantization trên cùng một kho mã.
Mới nổi gần đây
Các kho mã tạo trong 90 ngày qua và được gắn thẻ post-training-quantization.
Không có kho mã mới nào gắn thẻ chủ đề này trong 90 ngày qua.
- #1
Lượng tử hóa LLM low-bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & độ thưa (sparsity); các kỹ thuật nén mô hình hàng đầu trên PyTorch, TensorFlow và ONNX Runtime
★ 2.706+5Thay đổi số sao trong 7 ngày qua - #2
micronet, thư viện nén và triển khai mô hình. nén: 1、lượng tử hóa: lượng tử hóa khi huấn luyện (QAT), High-Bit (>2b), Low-Bit (≤2b); lượng tử hóa sau huấn luyện (PTQ), 8-bit (tensorrt); 2、cắt tỉa: cắt tỉa kênh tích chập thông thường, đều và theo nhóm; 3、group
★ 2.265+0Thay đổi số sao trong 7 ngày qua - #3
TinyNeuralNetwork là một framework nén mô hình deep learning hiệu quả và dễ sử dụng.
★ 880+1Thay đổi số sao trong 7 ngày qua - #4
[ICML 2024] SqueezeLLM: Lượng tử hóa dày đặc và thưa thớt (Dense-and-Sparse Quantization).
★ 723+0Thay đổi số sao trong 7 ngày qua
