vllm-project/speculators
@vllm-projectUna biblioteca unificada para construir, evaluar y almacenar algoritmos de decodificación especulativa para la inferencia de LLM en vLLM.
Estrellas
815
Bifurcaciones
214
Lenguaje
Python
Licencia
Apache-2.0
Último push
hace 1 día
Intel relacionado (0)
Aún no hay intel relacionado
Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.