跳到主要内容
buildradar
Sign in
主题 · high-performance-inference

high-performance-inference

标记 high-performance-inference 主题、收录中的开源项目,按星标数排序。

项目数
2
总星标数
6,109
平均星标数
3,055
占比
0.00%

常跟 high-performance-inference 一起出现在同一个项目上的主题。

近期新秀

近 90 天内创建、标记 high-performance-inference 主题的项目。

近 90 天内还没有新项目标记这个主题。

  • gpustack@gpustack

    一个 GPU 集群管理器,用于高效能 AI 模型服务(vLLM、SGLang)以及按需可 SSH 访问的 GPU 实例。

    5,593+21近 7 天星标变化
  • krasis@brontoguana

    Krasis 是一款混合型 LLM 运行时,专注于在消费级 VRAM 受限的硬件上高效执行大型模型。

    518+2近 7 天星标变化
← 返回主题列表