メインコンテンツへスキップ
buildradar
ログイン

datawhalechina/zero-to-sglang

@datawhalechina

Official SGLang × Datawhale course on LLM inference (中英双语): understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. 《从零手搓SGLang》:读懂推理,手搓 mini-sglang,吃透 SGLang 源码。

スター
728
フォーク
56
言語
Python
ライセンス
最終プッシュ
1 日前
Pythonllmcudallm-inferencetutorialinference-enginekv-cacheinfrasglangdatawhale

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。