Thema · int4
int4
Erfasste Open-Source-Repos mit dem Tag int4, sortiert nach Sternen.
Repos
3
Sterne gesamt
5.050
Sterne im Schnitt
1.683
Anteil
0,00%
Verwandte Themen
Themen, die häufig gemeinsam mit int4 am selben Repo auftauchen.
Neue Aufsteiger
Repos, die in den letzten 90 Tagen erstellt und mit int4 getaggt wurden.
In den letzten 90 Tagen kam kein neues Repo mit diesem Thema dazu.
- #1
SOTA Low-Bit-LLM-Quantisierung (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) und Sparsity; führende Modellkompressionstechniken für PyTorch, TensorFlow und ONNX Runtime
★ 2.706+5Sterne-Änderung der letzten 7 Tage - #2
Ein SOTA-Quantisierungsalgorithmus für hochpräzise Low-Bit-LLM-Inferenz, nahtlos optimiert für CPU/XPU/CUDA, mit Unterstützung für mehrere Datentypen und voller Kompatibilität mit vLLM, SGLang und Transformers.
★ 1.597+15Sterne-Änderung der letzten 7 Tage - #3
Optimierung der zeilenweisen Matrixmultiplikation
★ 753+2Sterne-Änderung der letzten 7 Tage
