vllm-project/semantic-router

Router Mixture-of-Models yang dapat diprogram untuk inferensi LLM heterogen.

↗ Buka di GitHub

Bintang

5.506

Fork

892

Bahasa

Go

Lisensi

Apache-2.0

Push terakhir

1 minggu yang lalu

Go llm kubernetes vllm transformer pytorch inference ai-gateway guardrails llmrouter mixture-of-models semantic-router

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.