Pemilik · scrya-com

scrya-com

Repositori open source terpantau milik scrya-com, diurutkan berdasarkan bintang.

1 repositori

#1
rotorquant ↗@scrya-comPython
Kompresi cache KV melalui rotasi blok-diagonal. Mengungguli TurboQuant: PPL lebih baik (6,91 vs 7,07), dekode 28% lebih cepat, prefill 5,3x lebih cepat, parameter 44x lebih sedikit. Integrasi drop-in untuk llama.cpp.
★ 1.045+3Perubahan bintang dalam 7 hari terakhir