Aller au contenu principal
buildradar
Se connecter

datawhalechina/zero-to-sglang

@datawhalechina

Official SGLang × Datawhale course on LLM inference (中英双语): understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. 《从零手搓SGLang》:读懂推理,手搓 mini-sglang,吃透 SGLang 源码。

Étoiles
746
Bifurcations
57
Langage
Python
Licence
Dernier push
il y a 1 jour
Pythonllmcudallm-inferencetutorialinference-enginekv-cacheinfrasglangdatawhale

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.