tonbistudio

Google TurboQuant (ICLR 2026) 用于 LLM KV 缓存压缩的 PyTorch 从零实现。在 3-bit 下达到 5 倍压缩，且具备 99.5% 的 Attention 保真度。