Chủ đề · int4
int4
Các kho mã nguồn mở đang theo dõi được gắn thẻ int4, sắp xếp theo số sao.
Kho mã
3
Tổng số sao
5.050
Số sao trung bình
1.683
Tỷ trọng
0,00%
Chủ đề liên quan
Những chủ đề thường xuất hiện cùng int4 trên cùng một kho mã.
Mới nổi gần đây
Các kho mã tạo trong 90 ngày qua và được gắn thẻ int4.
Không có kho mã mới nào gắn thẻ chủ đề này trong 90 ngày qua.
- #1
Lượng tử hóa LLM low-bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & độ thưa (sparsity); các kỹ thuật nén mô hình hàng đầu trên PyTorch, TensorFlow và ONNX Runtime
★ 2.706+5Thay đổi số sao trong 7 ngày qua - #2
Thuật toán lượng tử hóa SOTA cho suy luận LLM low-bit độ chính xác cao, được tối ưu hóa liền mạch cho CPU/XPU/CUDA, hỗ trợ đa kiểu dữ liệu và tương thích hoàn toàn với vLLM, SGLang và Transformers.
★ 1.597+15Thay đổi số sao trong 7 ngày qua - #3
Tối ưu hóa phép nhân ma trận theo thứ tự hàng (row-major)
★ 753+2Thay đổi số sao trong 7 ngày qua
