cuda-kernels

Notas de aprendizaje de CUDA moderno con PyTorch para principiantes, más de 200 CUDA Kernels, Tensor Cores, HGEMM, FA-2 MMA.

Ejemplos para desarrolladores de CUDA que demuestran las características del CUDA Toolkit

LMDeploy es un conjunto de herramientas para comprimir, desplegar y servir LLMs.

Ecosistema de bibliotecas y herramientas para escribir y ejecutar código GPU rápido completamente en Rust.

Servidor de inferencia especulativa de LLM para hardware heterogéneo y de consumo

Librerías de cómputo CUDA Core

Aprendizaje profundo en Rust, con tensores verificados por forma y redes neuronales

Envoltorio seguro en Rust para el toolkit de CUDA

Una biblioteca de aprendizaje automático con API en TypeScript y backend en Rust. Compatible con CUDA y WebGPU. Creada para comprender cómo funcionan internamente los marcos y modelos de ML.

cuDNN Frontend es el punto de entrada moderno y de código abierto de NVIDIA a la biblioteca cuDNN y a una creciente colección de kernels de alto rendimiento.

Biblioteca de benchmarking para kernels CUDA.

Motor de inferencia LLM en Rust puro + CUDA; sin PyTorch, compatible con OpenAI, sirve desde Qwen3 hasta Kimi-K2

FlashRT es un motor de inferencia en tiempo real de alto rendimiento para cargas de trabajo de IA de lotes pequeños y sensibles a la latencia. Su integración principal es el control VLA de producción para Pi0, Pi0.5, GROOT N1.6 y Pi0-FAST. También admite LLM como qwen3.6-27B.