跳到主要内容
buildradar
登录

therealoliver/Deepdive-llama3-from-scratch

@therealoliver

逐步实现 llama3 推理、掌握核心概念、掌握过程推导、实现代码。

星数
629
Fork 数
53
语言
Jupyter Notebook
许可
MIT
最后推送
2年前
Jupyter Notebookgptlanguage-modeltransformerllmstokenizerllamainferenceattentionattention-mechanismkv-cachermsropemaskllm-configurationmulti-head-attentionpositional-encodingresidualsrms-normrotary-position-encodingswiglu

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。