cuda

Biblioteca de operadores TT-NN e modelo de programação de kernel de baixo nível TT-Metalium.

🔥 Painel de monitoramento de GPU NVIDIA em tempo real.

ThunderSVM: Uma Biblioteca SVM Rápida em GPUs e CPUs

Projeto de implantação de LLM baseado em MNN. Este projeto foi mesclado ao MNN.

Plataforma de pesquisa de benchmark de inferência contínua de código aberto — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 e em breve™ TPUv6e/v7/Trainium2/3

Uma implementação do efeito Ken Burns 3D a partir de uma única imagem usando PyTorch.

Pesquisa automática para kernels de GPU. Forneça qualquer modelo PyTorch, vá dormir e acorde com kernels Triton otimizados.

UCCL é uma biblioteca de comunicação eficiente para GPUs, abrangendo coletivos, P2P (ex: transferência de cache KV, transferência de pesos de RL) e EP (ex: orientado por GPU)

Escreva em Java. Execute em GPUs. Rápido

TensorRT para YOLOv8, YOLOv8-Pose, YOLOv8-Seg, YOLOv8-Cls, YOLOv7, YOLOv6, YOLOv5, YOLONAS. CUDA é tudo o que você precisa.

Uma biblioteca eficiente de computação numérica em GPU C++20 com sintaxe semelhante a Python

Auto-hospede o poderoso modelo de TTS Chatterbox. Este servidor oferece uma interface web amigável, endpoints de API flexíveis (incluindo compatibilidade com OpenAI), vozes predefinidas, clonagem de voz e processamento de texto em escala de audiolivros. Executa com aceleração em NVIDIA (CUDA), AMD (ROCm) e CPU.

Programação CUDA em Julia.

Uma biblioteca de tensores rápida, ergonômica e portátil em Nim com foco em aprendizado profundo para CPU, GPU e dispositivos embarcados via backends OpenMP, Cuda e OpenCL

Uma biblioteca rápida de sobreposição de comunicação para paralelismo de tensores/especialistas em GPUs.

Repositório de código-fonte do LuxCore

https://wavespeed.ai/ O melhor framework de otimização de desempenho de inferência para HuggingFace Diffusers em GPUs NVIDIA.

stdgpu: estruturas de dados eficientes semelhantes à STL na GPU.

GraphVite: Um sistema de Graph Embedding geral e de alto desempenho

O script de compilação do FFmpeg fornece uma maneira fácil de compilar um FFmpeg estático no OSX e Linux com codecs não livres incluídos.

Wrapper seguro em Rust para o toolkit CUDA

Exemplos para Intel® oneAPI Toolkits

Integração OpenCL para Python, com recursos adicionais.

O motor de aprendizado de máquina do hacker

Biblioteca de matrizes rápida para Clojure

O SGLang-Omni capacita o atendimento de alto desempenho para modelos TTS, ASR, de fala e onidirecionais.

Construa seu próprio motor de inferência LLM de alto desempenho em C++ e CUDA - uma versão reduzida do vLLM.

Análise de grafos em GPU programável com CUDA/C++.

Robótica com computação em GPU

Framework de renderização de alto desempenho em arquiteturas de streaming