scrya-com/rotorquant

透過區塊對角旋轉進行 KV 快取壓縮。超越 TurboQuant：具備更好的 PPL（6.91 對比 7.07）、解碼速度快 28%、預填充速度快 5.3 倍、參數減少 44%。可無縫整合至 llama.cpp。