hao-ai-lab/LookaheadDecoding
@hao-ai-lab[ICML 2024] Rompe la dependencia secuencial de la inferencia de LLM usando Lookahead Decoding
Estrellas
1342
Bifurcaciones
83
Lenguaje
Python
Licencia
Apache-2.0
Último push
hace 2 años
Intel relacionado (0)
Aún no hay intel relacionado
Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.