rocm

Burn is a next generation tensor library and Deep Learning Framework that doesn't compromise on flexibility, efficiency and portability.

开放机器学习编译器框架

NumPy 与 SciPy 的 GPU 版本

LMCache：以最快的 KV 缓存层为 LLM 提供加速

一个 GPU 集群管理器，用于高效能 AI 模型服务（vLLM、SGLang）以及按需可 SSH 访问的 GPU 实例。

Lemonade 帮助用户发现并运行本地 AI 应用，直接在自己的 GPU 和 NPU 上提供优化 LLM，加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

近乎实时的 OpenAI Whisper 实作

可重定向的 MLIR 基础机器学习编译器与运行时工具包

适用于消费级与异构硬件的 LLM 推测式推理服务器

用于多体势能表示与分子动力学模拟的深度学习套件

大规模 LLM 推理引擎

开源持续推理基准研究平台 — Kimi K3 2.8T、MiniMax M3、DeepSeekv4、GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 ＆ 即将推出™ TPUv6e/v7/Trainium2/3

自架强大的 Chatterbox TTS 模型。此服务器提供用户友好的 Web UI、灵活的 API 端点（包含兼容 OpenAI）、预定义语音、语音克隆，以及大型有声书规模的文本处理。可在 NVIDIA (CUDA)、AMD (ROCm) 和 CPU 上加速运行。

stdgpu：在 GPU 上提供高效能的 STL 风格数据结构

UniLab：超越 GPU 主导范式的机器人 RL 异构架构

使用 Rust 编写的 RDNA 原生 LLM 推理引擎

赋予应用程序智慧：直接整合 llama.cpp 以利用硬件加速进行本地推理的 Go 应用程序

ROCm 软件平台中定义的各种软件层的 Dockerfile