主題 · trtllm
trtllm
標記 trtllm 主題、收錄中的開源專案，依星數排序。
專案數
1
總星數
502
平均星數
502
佔比
0.00%
相關主題
常跟 trtllm 一起出現在同一個專案上的主題。
近期新秀
近 90 天內建立、標記 trtllm 主題的專案。
近 90 天內還沒有新專案標記這個主題。
- #1
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 514—近 7 天星數變化
