オーナー · scrya-com
scrya-com
scrya-com の追跡中のオープンソースリポジトリを、スター数順に表示します。
1 件のリポジトリ
- #1
ブロック対角回転によるKVキャッシュ圧縮。TurboQuantを凌駕：より優れたPPL（6.91対7.07）、28%高速なデコード、5.3倍高速なプリフィル、44倍少ないパラメータ。llama.cppへのシームレスな統合。
★ 1,045+3直近 7 日のスター増減
scrya-com の追跡中のオープンソースリポジトリを、スター数順に表示します。
ブロック対角回転によるKVキャッシュ圧縮。TurboQuantを凌駕：より優れたPPL（6.91対7.07）、28%高速なデコード、5.3倍高速なプリフィル、44倍少ないパラメータ。llama.cppへのシームレスな統合。