跳到主要內容
buildradar
Sign in
主題 · distributed-inference

distributed-inference

標記 distributed-inference 主題、收錄中的開源專案,依星數排序。

專案數
4
總星數
17,366
平均星數
4,342
佔比
0.00%

常跟 distributed-inference 一起出現在同一個專案上的主題。

近期新秀

近 90 天內建立、標記 distributed-inference 主題的專案。

近 90 天內還沒有新專案標記這個主題。

  • flashinfer@flashinfer-ai

    FlashInfer:大型語言模型服務的核心函式庫

    6,321+38近 7 天星數變化
  • gpustack@gpustack

    一個 GPU 叢集管理器,用於高效能 AI 模型服務(vLLM、SGLang)以及按需可 SSH 存取的 GPU 實例。

    5,593+21近 7 天星數變化
  • llm-d@llm-d

    在 Kubernetes 上使用現代加速器實現最先進的推理效能

    4,390+69近 7 天星數變化
  • sglang-omni@sgl-project

    SGLang-Omni 為 TTS、ASR、語音與全能模型提供高效能服務。

    1,118+143近 7 天星數變化
← 返回主題列表