Pular para o conteúdo principal
buildradar
Entrar

vllm-project/semantic-router

@vllm-project

Um roteador programável de Mistura de Modelos (Mixture-of-Models) para inferência heterogênea de LLM

Estrelas
5.506
Bifurcações
892
Linguagem
Go
Licença
Apache-2.0
Último push
há 1 semana
Gollmkubernetesvllmtransformerpytorchinferenceai-gatewayguardrailsllmroutermixture-of-modelssemantic-router

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.