cuda

Mejores prácticas y guías sobre cómo escribir código de entrenamiento distribuido en PyTorch

Paquete de software de álgebra lineal numérica.

Renderizador Monte Carlo multiplataforma de alto rendimiento basado en LuisaCompute

Optimización del entrenamiento e inferencia de AlphaFold en clústeres de GPU

AutoDock para GPU y otros aceleradores

Un subconjunto de módulos de redes neuronales de PyTorch, escrito en Python usando Triton de OpenAI.

Una aplicación y guía para configurar fácilmente Windows, Linux, MacOS, Google TV, Stremio, Home Assistant y más (incluyendo WSL2, controladores de GPU y herramientas de desarrollo). Mejora tu experiencia de usuario y productividad.

Go con inteligencia propia: aplicaciones en Go que integran directamente llama.cpp para inferencia local mediante aceleración por hardware.

Yet Another Language Model: inferencia de LLM en C++/CUDA, sin bibliotecas excepto para E/S

Incrustación con distorsión mínima mediante PyTorch.

DaCe: programación paralela centrada en datos

NVIDIA NVSHMEM es una interfaz de programación paralela para GPUs NVIDIA basada en OpenSHMEM. NVSHMEM puede reducir significativamente la sobrecarga de comunicación y coordinación entre procesos al permitir a los programadores realizar comunicaciones unilaterales desde kernels y streams de CUDA.

Simulador de radar construido con Python y C++

Proyecto ideal para contrataciones universitarias, de otoño, primavera y pasantías, que te guía en la implementación desde cero de un marco de inferencia de grandes modelos compatible con Llama2/3 y Qwen2.5.

Una biblioteca C++ de cabecera única para simplificar el uso de CUDA Runtime Compilation (NVRTC).

Una colección abierta de metodologías para ayudar en el entrenamiento exitoso de modelos de lenguaje grandes.

Varios métodos de optimización para multiplicación de matrices generales de media precisión (HGEMM) utilizando Tensor Core con la API WMMA y la instrucción MMA PTX.

De profesor a tiles: un motor de destilación y servicio de LLM creado desde cero: kernels personalizados de Triton/CUDA, destilación FSDP, procesamiento por lotes continuo paged-KV, decodificación especulativa, una puerta de enlace en Rust, un oráculo JAX y herramientas de interpretabilidad.

FlashRT es un motor de inferencia en tiempo real de alto rendimiento para cargas de trabajo de IA de lotes pequeños y sensibles a la latencia. Su integración principal es el control VLA de producción para Pi0, Pi0.5, GROOT N1.6 y Pi0-FAST. También admite LLM como qwen3.6-27B.

Motor de inferencia estático, minimalista y solo para CUDA de qwen3-0.6B.

LLM algorithm practice lab with theory, solutions, and test cases.《大模型算法与系统教程》面向大模型入门到进阶的算法实战教程，覆盖原理讲解、答案解析、测试用例与 CUDA/Triton 实战。

Utiliza la VRAM de tu GPU NVIDIA como espacio de intercambio (swap) en Linux. Diseñado para portátiles con memoria soldada sin posibilidad de actualización. Si tienes una tarjeta RTX con 8GB de VRAM y tu sistema usa el SSD como swap, esto aprovecha esa VRAM.

Software de procesamiento de imágenes para criomicroscopía electrónica

Un clúster de Slurm usando docker-compose.

El paquete cu proporciona una interfaz idiomática para la API del controlador CUDA.

Una reimplementación de Holistically-Nested Edge Detection en PyTorch.

Visualización de datos y trazado de rayos en Python basado en el framework OptiX 9.1.

INSTA - Avatares de cabeza volumétricos instantáneos [CVPR2023]

Imagen de Docker para Ubuntu Desktop que admite aplicaciones GUI con aceleración de GPU por hardware. Puede acceder al contenedor mediante ssh o escritorio remoto, tal como en una VM en la nube.

Servidor de inferencia de lenguaje altamente optimizado, de código abierto, local y autohospedado, que admite ASR/STT, TTS y LLM a través de WebRTC, REST y WS.