rocm

Burn 是下一代張量函式庫與深度學習框架，兼顧彈性、效能與可移植性

開放機器學習編譯器框架

NumPy 与 SciPy 的 GPU 版本

LMCache：以最快的 KV 快取層為 LLM 提供加速

一個 GPU 叢集管理器，用於高效能 AI 模型服務（vLLM、SGLang）以及按需可 SSH 存取的 GPU 實例。

Lemonade 幫助用戶發現並運行本地 AI 應用，直接在自己的 GPU 和 NPU 上提供優化 LLM，加入我們的 Discord：https://discord.gg/5xXzkMu8Zk

近乎即時的 OpenAI Whisper 實作

可重定向的 MLIR 基礎機器學習編譯器與執行時工具包

適用於消費級與異質硬體的 LLM 推測式推論伺服器

用於多體位能表示與分子動態模擬的深度學習套件

大規模 LLM 推論引擎

開源持續推論基準研究平台 — Kimi K3 2.8T、MiniMax M3、DeepSeekv4、GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 ＆ 即將推出™ TPUv6e/v7/Trainium2/3

自架強大的 Chatterbox TTS 模型。此伺服器提供使用者友善的 Web UI、靈活的 API 端點（包含相容 OpenAI）、預定義語音、語音複製，以及大型有聲書規模的文字處理。可在 NVIDIA (CUDA)、AMD (ROCm) 和 CPU 上加速執行。

stdgpu：在 GPU 上提供高效能的 STL 風格資料結構

UniLab：超越 GPU 主導範式的機器人 RL 異質架構

使用 Rust 編寫的 RDNA 原生 LLM 推論引擎

賦予應用程式智慧：直接整合 llama.cpp 以利用硬體加速進行本地推論的 Go 應用程式

ROCm 軟體平台中定義的各種軟體層的 Dockerfile