rocm

Burn es una biblioteca de tensores y un Framework de Deep Learning de próxima generación que no compromete la flexibilidad, la eficiencia ni la portabilidad.

Framework de compilación de Machine Learning abierto.

NumPy y SciPy para GPU

LMCache: Potencia tu LLM con la capa de caché KV más rápida

Un administrador de clústeres de GPU para el servicio de modelos de IA de alto rendimiento (vLLM, SGLang) e instancias de GPU accesibles por SSH bajo demanda.

Lemonade ayuda a los usuarios a descubrir y ejecutar aplicaciones de IA locales sirviendo LLMs optimizados directamente desde sus propias GPU y NPU. Únete a nuestro discord: https://discord.gg/5xXzkMu8Zk

Una implementación casi en tiempo real de Whisper de OpenAI.

Un compilador de machine learning reorientable basado en MLIR y kit de herramientas de tiempo de ejecución.

Servidor de inferencia especulativa de LLM para hardware heterogéneo y de consumo

Un paquete de aprendizaje profundo para la representación de energía potencial de muchos cuerpos y dinámica molecular

Motor de inferencia para LLM a gran escala

Plataforma de investigación de benchmarks de inferencia continua de código abierto — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 y próximamente™ TPUv6e/v7/Trainium2/3

Aloja localmente el potente modelo de TTS Chatterbox. Este servidor ofrece una interfaz web intuitiva, endpoints de API flexibles (compatibles con OpenAI), voces predefinidas, clonación de voz y procesamiento de texto a gran escala para audiolibros. Se ejecuta con aceleración en NVIDIA (CUDA), AMD (ROCm) y CPU.

stdgpu: estructuras de datos eficientes similares a STL en la GPU

UniLab: una arquitectura heterogénea para aprendizaje por refuerzo en robots más allá de los paradigmas dominados por GPU

Motor de inferencia LLM nativo de RDNA en Rust.

Go con inteligencia propia: aplicaciones en Go que integran directamente llama.cpp para inferencia local mediante aceleración por hardware.

Dockerfiles para las diversas capas de software definidas en la plataforma de software ROCm