主题 · tensorrtllm
tensorrtllm
标记 tensorrtllm 主题、收录中的开源项目，按星标数排序。
项目数
1
总星标数
502
平均星标数
502
占比
0.00%
相关主题
常跟 tensorrtllm 一起出现在同一个项目上的主题。
近期新秀
近 90 天内创建、标记 tensorrtllm 主题的项目。
近 90 天内还没有新项目标记这个主题。
- #1
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 512—近 7 天星标变化
