主题 · int4
int4
标记 int4 主题、收录中的开源项目，按星标数排序。
项目数
3
总星标数
5,058
平均星标数
1,686
占比
0.00%
相关主题
常跟 int4 一起出现在同一个项目上的主题。
近期新秀
近 90 天内创建、标记 int4 主题的项目。
近 90 天内还没有新项目标记这个主题。
- #1
领先的低比特大型语言模型（LLM）量化（INT8/FP8/MXFP8/INT4/MXFP4/NVFP4）与稀疏化技术；基于 PyTorch、TensorFlow 和 ONNX Runtime 的顶尖模型压缩技术
★ 2,706+0近 7 天星标变化 - #2
用于高精度低比特 LLM 推理的 SOTA 量化算法，针对 CPU/XPU/CUDA 进行无缝优化，支持多种数据类型，并与 vLLM、SGLang 和 Transformers 完全兼容。
★ 1,599+8近 7 天星标变化 - #3
列主序矩阵乘法优化
★ 753+0近 7 天星标变化
