hao-ai-lab/LookaheadDecoding
@hao-ai-lab[ICML 2024] Quebrando a dependência sequencial da inferência de LLM usando Lookahead Decoding.
Estrelas
1.342
Bifurcações
83
Linguagem
Python
Licença
Apache-2.0
Último push
há 2 anos
Intel relacionado (0)
Ainda não há intel relacionado
Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.