vllm-project/speculators
@vllm-projectUma biblioteca unificada para construir, avaliar e armazenar algoritmos de decodificação especulativa para inferência de LLM no vLLM.
Estrelas
815
Bifurcações
214
Linguagem
Python
Licença
Apache-2.0
Último push
há 2 dias
Intel relacionado (0)
Ainda não há intel relacionado
Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.