jzhang38

Optimisation de la mémoire et recettes d'entraînement pour extrapoler la longueur de contexte des modèles de langage jusqu'à 1 million de jetons, avec un matériel minimal.