メインコンテンツへスキップ
buildradar
ログイン

therealoliver/Deepdive-llama3-from-scratch

@therealoliver

llama3の推論をステップバイステップで実現し、コア概念を理解し、プロセスの導出をマスターし、コードを実装する。

スター
629
フォーク
53
言語
Jupyter Notebook
ライセンス
MIT
最終プッシュ
2 年前
Jupyter Notebookgptlanguage-modeltransformerllmstokenizerllamainferenceattentionattention-mechanismkv-cachermsropemaskllm-configurationmulti-head-attentionpositional-encodingresidualsrms-normrotary-position-encodingswiglu

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。