cuda

Biblioteca de operadores TT-NN y modelo de programación de kernels de bajo nivel TT-Metalium.

🔥 Panel de control en tiempo real para GPU NVIDIA

ThunderSVM: una biblioteca de SVM rápida para GPU y CPU.

Proyecto de despliegue de LLM basado en MNN. Este proyecto ha sido integrado en MNN.

Plataforma de investigación de benchmarks de inferencia continua de código abierto — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 y próximamente™ TPUv6e/v7/Trainium2/3

Implementación del efecto Ken Burns 3D a partir de una sola imagen usando PyTorch

Investigación automática para kernels de GPU. Proporciónale cualquier modelo de PyTorch, vete a dormir y despierta con kernels de Triton optimizados.

UCCL es una biblioteca de comunicación eficiente para GPUs, que cubre colectivos, P2P (por ejemplo, transferencia de caché KV, transferencia de pesos RL) y EP (por ejemplo, impulsado por GPU).

Escribe en Java. Ejecuta en GPUs. Rápido.

Implementación de TensorRT para YOLOv8, YOLOv8-Pose, YOLOv8-Seg, YOLOv8-Cls, YOLOv7, YOLOv6, YOLOv5 y YOLONAS, optimizada para CUDA.

Una biblioteca eficiente de computación numérica en GPU para C++20 con sintaxis similar a Python.

Aloja localmente el potente modelo de TTS Chatterbox. Este servidor ofrece una interfaz web intuitiva, endpoints de API flexibles (compatibles con OpenAI), voces predefinidas, clonación de voz y procesamiento de texto a gran escala para audiolibros. Se ejecuta con aceleración en NVIDIA (CUDA), AMD (ROCm) y CPU.

Programación CUDA en Julia.

Una biblioteca de tensores rápida, ergonómica y portátil en Nim, enfocada en aprendizaje profundo para CPU, GPU y dispositivos embebidos mediante backends de OpenMP, Cuda y OpenCL.

Una biblioteca rápida de superposición de comunicación para paralelismo de tensores/expertos en GPUs.

Repositorio de código fuente de LuxCore

https://wavespeed.ai/ El mejor framework de optimización del rendimiento de inferencia para HuggingFace Diffusers en GPUs NVIDIA.

stdgpu: estructuras de datos eficientes similares a STL en la GPU

GraphVite: un sistema de representación de grafos (graph embedding) general y de alto rendimiento

Script de compilación de FFmpeg que facilita la creación de una versión estática en OSX y Linux con códecs no libres incluidos.

Envoltorio seguro en Rust para el toolkit de CUDA

Ejemplos para los Intel® oneAPI Toolkits

Integración de OpenCL para Python, además de características brillantes

El motor de aprendizaje automático para hackers

Biblioteca de matrices rápida para Clojure

SGLang-Omni permite un servicio de alto rendimiento para modelos de TTS, ASR, voz y modelos omni.

Construye tu propio motor de inferencia LLM de alto rendimiento en C++ y CUDA: una versión más pequeña de vLLM.

Análisis de gráficos de GPU CUDA/C++ programable

Robótica con computación mediante GPU

Framework de renderizado de alto rendimiento para arquitecturas de flujo