跳到主要内容
buildradar
Sign in
主题 · tensorrt-llm

tensorrt-llm

标记 tensorrt-llm 主题、收录中的开源项目,按星标数排序。

项目数
6
总星标数
20,383
平均星标数
3,397
占比
0.00%

常跟 tensorrt-llm 一起出现在同一个项目上的主题。

近期新秀

近 90 天内创建、标记 tensorrt-llm 主题的项目。

近 90 天内还没有新项目标记这个主题。

  • dynamo@ai-dynamo

    数据中心规模的分布式推理服务框架

    7,952+44近 7 天星标变化
  • Awesome-LLM-Inference@xlite-dev

    📚 精选Awesome LLM/VLM推理论文与代码清单:Flash-Attention、Paged-Attention、WINT8/4、Parallelism等。🎉

    5,482+3近 7 天星标变化
  • WhisperLive@collabora

    近乎实时的 OpenAI Whisper 实作

    4,246+3近 7 天星标变化
  • InferenceX@SemiAnalysisAI

    开源持续推理基准研究平台 — Kimi K3 2.8T、MiniMax M3、DeepSeekv4、GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 & 即将推出™ TPUv6e/v7/Trainium2/3

    1,613+33近 7 天星标变化
  • WhisperS2T@shashikg

    支持多种推理引擎的 Whisper 模型语音转文字优化流水线。

    578+1近 7 天星标变化
  • 此仓库列出了一些优秀的 CUDA、cuda-python、cuBLAS、cuDNN、CUTLASS、TensorRT、TensorRT-LLM、Triton、TVM、MLIR、PTX 与高性能计算 (HPC) 项目。

    511-2近 7 天星标变化
← 返回主题列表