Thema · tensorrtllm
tensorrtllm
Erfasste Open-Source-Repos mit dem Tag tensorrtllm, sortiert nach Sternen.
Repos
1
Sterne gesamt
502
Sterne im Schnitt
502
Anteil
0,00%
Verwandte Themen
Themen, die häufig gemeinsam mit tensorrtllm am selben Repo auftauchen.
Neue Aufsteiger
Repos, die in den letzten 90 Tagen erstellt und mit tensorrtllm getaggt wurden.
In den letzten 90 Tagen kam kein neues Repo mit diesem Thema dazu.
- #1
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 512—Sterne-Änderung der letzten 7 Tage
