cuda

Meilleures pratiques et guides pour écrire du code de formation distribuée PyTorch

Logiciel d'algèbre linéaire numérique

Moteur de rendu Monte Carlo multiplateforme haute performance basé sur LuisaCompute.

Optimisation de l'entraînement et de l'inférence d'AlphaFold sur des clusters de GPU

AutoDock pour les GPU et autres accélérateurs

Un sous-ensemble des modules de réseaux de neurones de PyTorch, écrits en Python avec le Triton d'OpenAI.

Une application et un guide pour configurer facilement Windows, Linux, MacOS, Google TV, Stremio, Home Assistant et plus encore (notamment WSL2, les pilotes GPU et les outils de développement). Améliorez votre expérience utilisateur et votre productivité.

Go avec votre propre intelligence - Applications Go qui intègrent directement llama.cpp pour l'inférence locale avec accélération matérielle.

Yet Another Language Model : inférence LLM en C++/CUDA, sans aucune bibliothèque à l'exception des E/S.

Plongement à distorsion minimale avec PyTorch

DaCe - Programmation parallèle centrée sur les données

NVIDIA NVSHMEM est une interface de programmation parallèle pour les GPU NVIDIA basée sur OpenSHMEM. NVSHMEM peut réduire considérablement la communication multi-processus et les frais généraux de coordination en permettant aux programmeurs d'effectuer une communication unilatérale à partir des noyaux CUDA et sur les flux CUDA.

Simulateur radar construit avec Python et C++

Une bibliothèque C++ en en-tête unique pour simplifier l'utilisation de la compilation runtime CUDA (NVRTC).

Un excellent projet pour le recrutement universitaire, d'automne, de printemps et les stages, vous guidant pour implémenter à partir de zéro un framework d'inférence de grands modèles prenant en charge LLama2/3 et Qwen2.5.

Une collection ouverte de méthodologies pour faciliter l'entraînement réussi de grands modèles de langage.

Plusieurs méthodes d'optimisation de la multiplication de matrices générales en demi-précision (HGEMM) utilisant les tensor cores avec l'API WMMA et l'instruction PTX MMA.

From teacher to tiles — a from-scratch LLM distillation & serving engine: custom Triton/CUDA kernels, FSDP distillation, paged-KV continuous batching, speculative decoding, a Rust gateway, a JAX oracle, and interpretability tooling.

FlashRT est un moteur d'inférence haute performance en temps réel pour les charges de travail IA à faible lot et sensibles à la latence. L'intégration phare concerne le contrôle VLA en production pour Pi0, Pi0.5, GROOT N1.6 et Pi0-FAST. Il prend également en charge les LLM tels que qwen3.6-27B.

Moteur de mini-inférence statique, suckless, mono-lot (single batch) et exclusivement CUDA pour qwen3-0.6B

LLM algorithm practice lab with theory, solutions, and test cases.《大模型算法与系统教程》面向大模型入门到进阶的算法实战教程，覆盖原理讲解、答案解析、测试用例与 CUDA/Triton 实战。

Utilisez la VRAM de votre GPU NVIDIA comme espace d'échange (swap) sous Linux. Conçu pour les ordinateurs portables avec mémoire soudée sans possibilité de mise à niveau. Si vous avez une carte RTX avec 8 Go de VRAM et que vous utilisez le swap sur SSD, cela permet d'exploiter cette VRAM.

Logiciel de traitement d'images pour la cryo-microscopie électronique

Un cluster Slurm utilisant docker-compose

Le package cu fournit une interface idiomatique à l'API du pilote CUDA.

Une réimplémentation de Holistically-Nested Edge Detection en PyTorch

Visualisation de données et ray tracing en Python basés sur le framework OptiX 9.1.

INSTA - Avatars de tête volumétriques instantanés [CVPR2023]

Image Docker pour Ubuntu Desktop prenant en charge les applications GUI avec accélération matérielle GPU. Accédez au conteneur via ssh ou bureau à distance, comme une VM Cloud.

Serveur d'inférence linguistique open-source, local et auto-hébergé, hautement optimisé, prenant en charge ASR/STT, TTS et LLM via WebRTC, REST et WS.