跳到主要內容
buildradar
Sign in
主題 · tensorrt-llm

tensorrt-llm

標記 tensorrt-llm 主題、收錄中的開源專案,依星數排序。

專案數
6
總星數
20,383
平均星數
3,397
佔比
0.00%

常跟 tensorrt-llm 一起出現在同一個專案上的主題。

近期新秀

近 90 天內建立、標記 tensorrt-llm 主題的專案。

近 90 天內還沒有新專案標記這個主題。

  • dynamo@ai-dynamo

    資料中心規模的分布式推論服務框架

    7,952+44近 7 天星數變化
  • Awesome-LLM-Inference@xlite-dev

    📚 精選Awesome LLM/VLM推理論文與程式碼清單:Flash-Attention、Paged-Attention、WINT8/4、Parallelism等。🎉

    5,482+3近 7 天星數變化
  • WhisperLive@collabora

    近乎即時的 OpenAI Whisper 實作

    4,246+3近 7 天星數變化
  • InferenceX@SemiAnalysisAI

    開源持續推論基準研究平台 — Kimi K3 2.8T、MiniMax M3、DeepSeekv4、GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 & 即將推出™ TPUv6e/v7/Trainium2/3

    1,613+33近 7 天星數變化
  • WhisperS2T@shashikg

    支援多種推論引擎的 Whisper 模型語音轉文字優化管線。

    578+1近 7 天星數變化
  • 此儲存庫列出了一些優秀的 CUDA、cuda-python、cuBLAS、cuDNN、CUTLASS、TensorRT、TensorRT-LLM、Triton、TVM、MLIR、PTX 與高效能運算 (HPC) 專案。

    511-2近 7 天星數變化
← 返回主題列表