rednote-machine-learning/RedKnot
@rednote-machine-learningHead-Aware KV Reuse と SegPagedAttention を用いた効率的なロングコンテキスト LLM サービング
スター
2,105
フォーク
858
言語
Python
ライセンス
Apache-2.0
最終プッシュ
4 日前
関連 Intel（0）
関連 Intel はまだありません
このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。