Sujet · trtllm
trtllm
Dépôts open source suivis étiquetés trtllm, triés par étoiles.
Dépôts
1
Total d'étoiles
502
Étoiles en moyenne
502
Part
0,00%
Sujets associés
Sujets qui apparaissent souvent aux côtés de trtllm sur un même dépôt.
Ascensions récentes
Dépôts créés au cours des 90 derniers jours et étiquetés trtllm.
Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.
- #1
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 513—Évolution des étoiles sur les 7 derniers jours
