hao-ai-lab/LookaheadDecoding
@hao-ai-lab[ICML 2024] Briser la dépendance séquentielle de l'inférence LLM en utilisant le Lookahead Decoding.
Étoiles
1 342
Bifurcations
83
Langage
Python
Licence
Apache-2.0
Dernier push
il y a 2 ans
Intel associée (0)
Aucune intel associée pour le moment
Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.