メインコンテンツへスキップ
buildradar
Sign in

kyegomez/LongNet

@kyegomez

「LongNet: Scaling Transformers to 1,000,000,000 Tokens」のプラグアンドプレイなAttentionの実装

スター
726
フォーク
59
言語
Python
ライセンス
Apache-2.0
最終プッシュ
3 年前
Pythonmachine-learningtransformerchatgptgpt4artificial-intelligenceattention-mechanismsattentiongpt3attention-is-all-you-needcontext-length

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。