Tema · inference-gateway
inference-gateway
Repositorios de código abierto monitorizados etiquetados con inference-gateway, ordenados por estrellas.
Repositorios
1
Estrellas totales
502
Estrellas de media
502
Proporción
0,00%
Temas relacionados
Temas que aparecen con frecuencia junto a inference-gateway en un mismo repositorio.
Emergentes recientes
Repositorios creados en los últimos 90 días, etiquetados con inference-gateway.
No hay repositorios nuevos con este tema en los últimos 90 días.
- #1
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 510—Variación de estrellas de los últimos 7 días
