linear-attention
Dépôts open source suivis étiquetés linear-attention, triés par étoiles.
Sujets associés
Sujets qui apparaissent souvent aux côtés de linear-attention sur un même dépôt.
Ascensions récentes
Dépôts créés au cours des 90 derniers jours et étiquetés linear-attention.
- #1
Kimi K3 avec 2,78 billions de paramètres exécutant l'inférence sur un seul CPU avec 8,24 Go de RAM. C99 portable : sans BLAS, sans framework, sans GPU.
★ 7 187
- #1
RWKV (prononcé RwaKuv) est un RNN offrant d'excellentes performances LLM, pouvant être entraîné directement comme un transformeur GPT (parallélisable). Nous en sommes à RWKV-7 "Goose". Il combine le meilleur du RNN et du transformeur : excellentes performances, temps linéaire, espace constant (pas de kv-cache), entraînement rapide, longueur de contexte infinie et plongements de phrases gratuits.
★ 14 695+8Évolution des étoiles sur les 7 derniers jours - #2
Kimi K3 avec 2,78 billions de paramètres exécutant l'inférence sur un seul CPU avec 8,24 Go de RAM. C99 portable : sans BLAS, sans framework, sans GPU.
★ 7 187+468Évolution des étoiles sur les 7 derniers jours
