Aller au contenu principal
buildradar
Se connecter

vllm-project/semantic-router

@vllm-project

Un routeur programmable de mélange de modèles pour l'inférence LLM hétérogène

Étoiles
5 506
Bifurcations
892
Langage
Go
Licence
Apache-2.0
Dernier push
il y a 1 semaine
Gollmkubernetesvllmtransformerpytorchinferenceai-gatewayguardrailsllmroutermixture-of-modelssemantic-router

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.