Topik · tensorrtllm
tensorrtllm
Repositori open source terpantau bertanda tensorrtllm, diurutkan berdasarkan bintang.
Repositori
1
Total bintang
502
Rata-rata bintang
502
Porsi
0,00%
Topik terkait
Topik yang sering muncul berdampingan dengan tensorrtllm di repositori yang sama.
Yang sedang naik
Repositori yang dibuat dalam 90 hari terakhir dan bertanda tensorrtllm.
Tidak ada repositori baru bertanda topik ini dalam 90 hari terakhir.
- #1
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 512—Perubahan bintang dalam 7 hari terakhir
