Chủ đề · tensorrtllm
tensorrtllm
Các kho mã nguồn mở đang theo dõi được gắn thẻ tensorrtllm, sắp xếp theo số sao.
Kho mã
1
Tổng số sao
502
Số sao trung bình
502
Tỷ trọng
0,00%
Chủ đề liên quan
Những chủ đề thường xuất hiện cùng tensorrtllm trên cùng một kho mã.
Mới nổi gần đây
Các kho mã tạo trong 90 ngày qua và được gắn thẻ tensorrtllm.
Không có kho mã mới nào gắn thẻ chủ đề này trong 90 ngày qua.
- #1
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 512—Thay đổi số sao trong 7 ngày qua
