मालिक · IST-DASLab

IST-DASLab

IST-DASLab की ट्रैक की गई ओपन सोर्स रिपॉजिटरी, स्टार के हिसाब से क्रमबद्ध।

3 रिपॉजिटरी

#1
gptq ↗@IST-DASLabPython
ICLR 2023 पेपर "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers" के लिए कोड।
★ 2,362+2पिछले 7 दिनों में स्टार का बदलाव
#2
marlin ↗@IST-DASLabPython
FP16xINT4 LLM इंफरेंस कर्नेल जो 16-32 टोकन के मध्यम बैच आकार तक लगभग-आदर्श ~4x स्पीडअप प्राप्त कर सकता है।
★ 1,138+2पिछले 7 दिनों में स्टार का बदलाव
#3
sparsegpt ↗@IST-DASLabPython
ICML 2023 पेपर "SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot" के लिए कोड।
★ 893+0पिछले 7 दिनों में स्टार का बदलाव