Chuyển tới nội dung chính
buildradar
Sign in

vllm-project/semantic-router

@vllm-project

Bộ định tuyến Mixture-of-Models có thể lập trình cho suy luận LLM dị thể

Sao
5.506
Fork
892
Ngôn ngữ
Go
Giấy phép
Apache-2.0
Push gần nhất
6 ngày trước
Gollmkubernetesvllmtransformerpytorchinferenceai-gatewayguardrailsllmroutermixture-of-modelssemantic-router

Chưa có intel liên quan

Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.