跳到主要內容
buildradar
Sign in
主題 · high-performance-inference

high-performance-inference

標記 high-performance-inference 主題、收錄中的開源專案,依星數排序。

專案數
2
總星數
6,109
平均星數
3,055
佔比
0.00%

常跟 high-performance-inference 一起出現在同一個專案上的主題。

近期新秀

近 90 天內建立、標記 high-performance-inference 主題的專案。

近 90 天內還沒有新專案標記這個主題。

  • gpustack@gpustack

    一個 GPU 叢集管理器,用於高效能 AI 模型服務(vLLM、SGLang)以及按需可 SSH 存取的 GPU 實例。

    5,593+21近 7 天星數變化
  • krasis@brontoguana

    Krasis 是一款混合型 LLM 執行時期,專注於在消費級 VRAM 受限的硬體上高效執行大型模型。

    519+2近 7 天星數變化
← 返回主題列表