tokenspeed
Repositórios de código aberto acompanhados marcados com tokenspeed, ordenados por estrelas.
Tópicos relacionados
Tópicos que aparecem com frequência ao lado de tokenspeed no mesmo repositório.
Em ascensão recentemente
Repositórios criados nos últimos 90 dias e marcados com tokenspeed.
Nenhum repositório novo marcado com este tópico nos últimos 90 dias.
- #1
Mooncake é a plataforma de serviço para o Kimi, um serviço de LLM líder fornecido pela Moonshot AI.
★ 6.470+40Variação de estrelas nos últimos 7 dias - #2
TokenSpeed é um motor de inferência de LLM extremamente rápido.
★ 2.075+44Variação de estrelas nos últimos 7 dias - #3
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
★ 510—Variação de estrelas nos últimos 7 dias
