Tópico · continuous-batching

continuous-batching

Repositórios de código aberto acompanhados marcados com continuous-batching, ordenados por estrelas.

Repositórios

Total de estrelas

1.557

Média de estrelas

1.557

Participação

0,00%

Tópicos que aparecem com frequência ao lado de continuous-batching no mesmo repositório.

Em ascensão recentemente

Repositórios criados nos últimos 90 dias e marcados com continuous-batching.

Nenhum repositório novo marcado com este tópico nos últimos 90 dias.

#1
vllm-mlx ↗@waybarriosPython
Servidor de inferência LLM de alto desempenho compatível com OpenAI e Anthropic para Apple Silicon. MLX nativo, processamento contínuo, modelos multimodais, chamada de ferramentas MCP e suporte ao Claude Code.
★ 1.557+0Variação de estrelas nos últimos 7 dias