Aller au contenu principal
buildradar
Se connecter

qiuzh20/gated_attention

@qiuzh20

Implémentation officielle pour [NeurIPS2025 Oral] Gated Attention for Large Language Models : Non-linearity, Sparsity, and Attention-Sink-Free.

Étoiles
982
Bifurcations
61
Langage
Jupyter Notebook
Licence
MIT
Dernier push
il y a 9 mois
Jupyter Notebook

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.