Tópico · tensorrtllm
tensorrtllm
Repositórios de código aberto acompanhados marcados com tensorrtllm, ordenados por estrelas.
Repositórios
1
Total de estrelas
502
Média de estrelas
502
Participação
0,00%
Tópicos relacionados
Tópicos que aparecem com frequência ao lado de tensorrtllm no mesmo repositório.
Em ascensão recentemente
Repositórios criados nos últimos 90 dias e marcados com tensorrtllm.
Nenhum repositório novo marcado com este tópico nos últimos 90 dias.
- #1
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 512—Variação de estrelas nos últimos 7 dias
