मुख्य सामग्री पर जाएँ
buildradar
साइन इन करें

datawhalechina/zero-to-sglang

@datawhalechina

Official SGLang × Datawhale course on LLM inference (中英双语): understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. 《从零手搓SGLang》:读懂推理,手搓 mini-sglang,吃透 SGLang 源码。

स्टार
686
फ़ोर्क
54
भाषा
Python
लाइसेंस
आख़िरी push
17 घंटे पहले
Pythonllmcudallm-inferencetutorialinference-enginekv-cacheinfrasglangdatawhale

अभी कोई संबंधित intel नहीं

यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।