datawhalechina/zero-to-sglang

@datawhalechina

Official SGLang × Datawhale course on LLM inference (中英双语): understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. 《从零手搓SGLang》：读懂推理，手搓 mini-sglang，吃透 SGLang 源码。

↗ 在 GitHub 開啟

星數

728

Fork 數

56

語言

Python

授權

—

最後推送

1 天前

Python llm cuda llm-inference tutorial inference-engine kv-cache infra sglang datawhale

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。