LLMServe/DistServe
@LLMServe大規模言語モデル（LLM）向けのディスアグリゲーション推論システム
スター
833
フォーク
98
言語
Jupyter Notebook
ライセンス
Apache-2.0
最終プッシュ
1 年前
関連 Intel（0）
関連 Intel はまだありません
このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。
大規模言語モデル（LLM）向けのディスアグリゲーション推論システム
このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。