Chủ sở hữu · IST-DASLab

IST-DASLab

Các kho mã nguồn mở đang theo dõi của IST-DASLab, sắp xếp theo số sao.

3 kho mã

#1
gptq ↗@IST-DASLabPython
Mã nguồn cho bài báo ICLR 2023 "GPTQ: Accurate Post-training Quantization of Generative Pretrained Transformers".
★ 2.362+2Thay đổi số sao trong 7 ngày qua
#2
marlin ↗@IST-DASLabPython
Kernel suy luận LLM FP16xINT4 có thể đạt tốc độ nhanh gấp ~4 lần gần như lý tưởng với kích thước batch trung bình từ 16-32 token.
★ 1.138+2Thay đổi số sao trong 7 ngày qua
#3
sparsegpt ↗@IST-DASLabPython
Mã nguồn cho bài báo ICML 2023 "SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot".
★ 893+0Thay đổi số sao trong 7 ngày qua