sgl-project/sglang

SGLangは、大規模言語モデルおよびマルチモーダルモデル向けの高性能サービングフレームワークです。

↗ GitHub で開く

スター

33,538

フォーク

8,492

言語

Python

ライセンス

Apache-2.0

最終プッシュ

5 日前

Python llm qwen-image cuda transformer deepseek reinforcement-learning qwen wan llama inference glm vlm diffusion attention minimax moe gpt-oss blackwell

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。