EricLBuehler/candle-vllm
@EricLBuehlerPlataforma eficiente para inferencia y servicio de LLMs locales, incluyendo un servidor de API compatible con OpenAI.
Estrellas
722
Bifurcaciones
88
Lenguaje
Rust
Licencia
MIT
Último push
hace 2 días
Intel relacionado (0)
Aún no hay intel relacionado
Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.