cuda

Ökosystem aus Bibliotheken und Werkzeugen zum Schreiben und Ausführen von schnellem GPU-Code vollständig in Rust.

NVIDIA cuML: GPU-beschleunigtes maschinelles Lernen

Eine PyTorch-Bibliothek zur Beschleunigung der 3D-Deep-Learning-Forschung

Optimierte Primitive für kollektive Multi-GPU-Kommunikation

ArrayFire: Eine Allzweck-GPU-Bibliothek.

Schnelle Inferenz-Engine für Transformer-Modelle.

Tengine ist eine schlanke, hochleistungsfähige, modulare Inferenz-Engine für eingebettete Geräte

Blitzschnelles C++/CUDA-Framework für neuronale Netze

HIP: C++ Heterogeneous-Compute-Schnittstelle für Portabilität

Ein zielplattformunabhängiger, MLIR-basierter Compiler- und Laufzeit-Toolkit für maschinelles Lernen.

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention erzielt eine 2- bis 5-fache Beschleunigung im Vergleich zu FlashAttention, ohne Einbußen bei End-to-End-Metriken über Sprach-, Bild- und Videomodelle hinweg.

Trainieren, inspizieren, bearbeiten, automatisieren und exportieren Sie 3D Gaussian Splatting-Szenen aus einer einzigen nativen Anwendung heraus.

Eine Bibliothek zur Beschleunigung von Transformer-Modellen auf NVIDIA-GPUs, einschließlich der Verwendung von 8-Bit- und 4-Bit-Gleitkommapräzision (FP8 und FP4) auf Hopper-, Ada- und Blackwell-GPUs, um eine bessere Leistung bei geringerer Speichernutzung sowohl beim Training als auch bei der Inferenz zu erzielen.

Selbstgehostete, rein lokale NVR- und KI-Computer-Vision-Software. Mit Funktionen wie Objekterkennung, Bewegungserkennung, Gesichtserkennung und mehr bietet sie Ihnen die Möglichkeit, Ihr Zuhause, Ihr Büro oder jeden anderen Ort zu überwachen.

LYGIA ist eine granulare und mehrsprachige (GLSL, HLSL, Metal, WGSL, WEGL und CUDA) Shader-Bibliothek, die auf Leistung und Flexibilität ausgelegt ist

Einzelne C-Datei, Echtzeit-CPU/GPU-Profiler mit Remote-Web-Viewer

Anleitung zur Optimierung bestimmter Algorithmen in CUDA.

Jittor ist ein Hochleistungs-Deep-Learning-Framework basierend auf JIT-Kompilierung und Meta-Operatoren.

Open-Source-Schach-Engine mit neuronalem Netzwerk, GPU-Beschleunigung und breiter Hardwareunterstützung.

Agent-Skills für NVIDIA-Produkte — zur Installation in Claude Code, Codex und andere Coding-Agenten, um Physical AI, Robotik, Simulation, CUDA und RAG-Workflows end-to-end auszuführen.

cuda-oxide ist ein experimenteller Rust-zu-CUDA-Compiler, mit dem Sie (SIMT)-GPU-Kernel in sicherem(n), idiomatischem Rust schreiben können. Er kompiliert Standard-Rust-Code direkt zu PTX – keine DSLs, keine Fremdsprachen-Bindings, einfach nur Rust.

Eine GPU-beschleunigte Echtzeit-Analytik-Speicher- und Abfrage-Engine.

HeavyDB (ehemals MapD/OmniSciDB)

RamaLama ist ein Open-Source-Entwicklertool, das die lokale Bereitstellung von KI-Modellen aus beliebigen Quellen vereinfacht und ihre Nutzung für die Inferenz in der Produktion über die vertraute Sprache von Containern erleichtert.

PyTorch/TorchScript/FX-Compiler für NVIDIA-GPUs unter Verwendung von TensorRT

PyTorch-native Quantisierung für Training und Inferenz.

Minkowski Engine ist eine Auto-Diff-Bibliothek für neuronale Netze für hochdimensionale spärliche Tensoren.

Der NVIDIA GPU Operator erstellt, konfiguriert und verwaltet GPUs in Kubernetes

LLM-Inferenzserver für spekulatives Sampling auf Consumer- und heterogener Hardware

:boom::computer::boom: Eine datenparallele funktionale Programmiersprache