Sujet · tensorrtllm
tensorrtllm
Dépôts open source suivis étiquetés tensorrtllm, triés par étoiles.
Dépôts
1
Total d'étoiles
502
Étoiles en moyenne
502
Part
0,00%
Sujets associés
Sujets qui apparaissent souvent aux côtés de tensorrtllm sur un même dépôt.
Ascensions récentes
Dépôts créés au cours des 90 derniers jours et étiquetés tensorrtllm.
Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.
- #1
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 512—Évolution des étoiles sur les 7 derniers jours
