Pemilik · IST-DASLab

IST-DASLab

Repositori open source terpantau milik IST-DASLab, diurutkan berdasarkan bintang.

3 repositori

#1
gptq ↗@IST-DASLabPython
Kode untuk makalah ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".
★ 2.362+2Perubahan bintang dalam 7 hari terakhir
#2
marlin ↗@IST-DASLabPython
Kernel inferensi LLM FP16xINT4 yang dapat mencapai percepatan ~4x yang mendekati ideal hingga ukuran batch sedang 16-32 token.
★ 1.138+2Perubahan bintang dalam 7 hari terakhir
#3
sparsegpt ↗@IST-DASLabPython
Kode untuk makalah ICML 2023 "SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot".
★ 893+0Perubahan bintang dalam 7 hari terakhir