Propriétaire · scrya-com
scrya-com
Dépôts open source suivis de scrya-com, triés par étoiles.
1 dépôt
- #1
Compression de cache KV via rotation bloc-diagonale. Surpasse TurboQuant : meilleur PPL (6,91 contre 7,07), décodage 28 % plus rapide, pré-remplissage 5,3x plus rapide, 44x moins de paramètres. Intégration directe dans llama.cpp.
★ 1 046+3Évolution des étoiles sur les 7 derniers jours
