EricLBuehler/candle-vllm
@EricLBuehlerPlateforme efficace pour l'inférence et le déploiement de LLM locaux, incluant un serveur d'API compatible OpenAI.
Étoiles
722
Bifurcations
88
Langage
Rust
Licence
MIT
Dernier push
il y a 3 jours
Intel associée (0)
Aucune intel associée pour le moment
Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.