Topik · trtllm
trtllm
Repositori open source terpantau bertanda trtllm, diurutkan berdasarkan bintang.
Repositori
1
Total bintang
502
Rata-rata bintang
502
Porsi
0,00%
Topik terkait
Topik yang sering muncul berdampingan dengan trtllm di repositori yang sama.
Yang sedang naik
Repositori yang dibuat dalam 90 hari terakhir dan bertanda trtllm.
Tidak ada repositori baru bertanda topik ini dalam 90 hari terakhir.
- #1
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 513—Perubahan bintang dalam 7 hari terakhir
