主題 · int4
int4
標記 int4 主題、收錄中的開源專案，依星數排序。
專案數
3
總星數
5,058
平均星數
1,686
佔比
0.00%
相關主題
常跟 int4 一起出現在同一個專案上的主題。
近期新秀
近 90 天內建立、標記 int4 主題的專案。
近 90 天內還沒有新專案標記這個主題。
- #1
領先的低位元大型語言模型（LLM）量化（INT8/FP8/MXFP8/INT4/MXFP4/NVFP4）與稀疏化技術；基於 PyTorch、TensorFlow 和 ONNX Runtime 的頂尖模型壓縮技術
★ 2,706+0近 7 天星數變化 - #2
用於高精度低位元 LLM 推論的 SOTA 量化演算法，針對 CPU/XPU/CUDA 進行無縫最佳化，支援多種資料型態，並與 vLLM、SGLang 和 Transformers 完全相容。
★ 1,599+8近 7 天星數變化 - #3
列主序矩陣乘法最佳化
★ 753+0近 7 天星數變化
