tonbistudio/turboquant-pytorch

LLM KVキャッシュ圧縮のためのGoogle製 TurboQuant (ICLR 2026) のスクラッチからのPyTorch実装。3-bitで99.5%のアテンション忠実度を保ちながら5倍の圧縮を実現。