メインコンテンツへスキップ
buildradar
ログイン

WeianMao/triattention

@WeianMao

TriAttention — 三角関数による KV キャッシュ圧縮を用いた効率的な長文推論。メモリ制限のある GPU での OpenClaw のローカルデプロイを可能にします。

スター
848
フォーク
79
言語
Python
ライセンス
Apache-2.0
最終プッシュ
1 か月前
Python

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。