メインコンテンツへスキップ
buildradar
ログイン

tomaarsen/attention_sinks

@tomaarsen

再学習を行わず、定数メモリ使用量で既存の LLM を元のトレーニング長をはるかに超えて拡張する

スター
734
フォーク
44
言語
Python
ライセンス
Apache-2.0
最終プッシュ
2 年前
Pythonpythonllmllmstransformersnlp

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。