Aller au contenu principal
buildradar
Se connecter

therealoliver/Deepdive-llama3-from-scratch

@therealoliver

Réalisez l'inférence llama3 étape par étape, saisissez les concepts fondamentaux, maîtrisez la dérivation du processus, implémentez le code.

Étoiles
629
Bifurcations
53
Langage
Jupyter Notebook
Licence
MIT
Dernier push
il y a 2 ans
Jupyter Notebookgptlanguage-modeltransformerllmstokenizerllamainferenceattentionattention-mechanismkv-cachermsropemaskllm-configurationmulti-head-attentionpositional-encodingresidualsrms-normrotary-position-encodingswiglu

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.