Tópico · inference-engineering
inference-engineering
Repositórios de código aberto acompanhados marcados com inference-engineering, ordenados por estrelas.
Em ascensão recentemente
Repositórios criados nos últimos 90 dias e marcados com inference-engineering.
- #1
Learn LLM Inference Engineering step by step - from KV cache, PagedAttention, and continuous batching to vLLM, SGLang, and GPUs.
★ 221
Ainda não há repositórios acompanhados neste tópico
Ou a sincronização ainda não chegou até aqui, ou todos os repositórios correspondentes estão hoje abaixo do limite de estrelas.