Dépôts open source suivis de pjlab-sys4nlp, triés par étoiles.
⛷️ LLaMA-MoE : Construction de Mixture-of-Experts à partir de LLaMA avec un pré-entraînement continu (EMNLP 2024).