Pular para o conteúdo principal
buildradar
Entrar

datawhalechina/zero-to-sglang

@datawhalechina

Official SGLang × Datawhale course on LLM inference (中英双语): understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. 《从零手搓SGLang》:读懂推理,手搓 mini-sglang,吃透 SGLang 源码。

Estrelas
671
Bifurcações
53
Linguagem
Python
Licença
Último push
há 9 horas
Pythonllmcudallm-inferencetutorialinference-enginekv-cacheinfrasglangdatawhale

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.