Zum Hauptinhalt springen
buildradar
Sign in

vllm-project/semantic-router

@vllm-project

Ein programmierbarer Mixture-of-Models-Router für heterogene LLM-Inferenz

Sterne
5.506
Forks
892
Sprache
Go
Lizenz
Apache-2.0
Letzter Push
vor 5 Tagen
Gollmkubernetesvllmtransformerpytorchinferenceai-gatewayguardrailsllmroutermixture-of-modelssemantic-router

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.