NVIDIA

Führe Agenten wie Hermes, LangChain Deep Agents und OpenClaw sicherer in NVIDIA OpenShell mit verwaltetem Inferencing aus.

Laufende Forschungsarbeiten zum Trainieren von Transformer-Modellen im großen Maßstab

Quellcode des offenen NVIDIA Linux GPU-Kernelmoduls

Sicherheitsscanner für KI-Agenten-Skills. Erkennen Sie Schwachstellen, schädliche Muster, Sicherheitsrisiken, Prompt Injection, Datenexfiltration und Lieferkettenrisiken in Claude Code-, Codex- und MCP-Skills, bevor Sie sie installieren.

Modernste Deep-Learning-Skripte, organisiert nach Modellen – einfach zu trainieren und bereitzustellen mit reproduzierbarer Genauigkeit und Leistung auf Infrastruktur für den Unternehmenseinsatz.

TensorRT LLM bietet Benutzern eine benutzerfreundliche Python-API zum Definieren von Large Language Models (LLMs) und unterstützt modernste Optimierungen zur effizienten Inferenz auf NVIDIA-GPUs. TensorRT LLM enthält zudem Komponenten zum Erstellen von Python- und C++-Runtimes, die die Inferenzausführung performant steuern.

NVIDIA® TensorRT™ ist ein SDK für die Hochleistungs-Inferenz von Deep Learning auf NVIDIA-GPUs. Dieses Repository enthält die Open-Source-Komponenten von TensorRT.

NVIDIA Cosmos ist eine offene Plattform aus Weltmodellen, Datensätzen und Tools, die Entwicklern die Erstellung von Physical AI für Roboter, autonome Fahrzeuge, intelligente Infrastruktur und mehr ermöglicht.

PersonaPlex-Code.

CUDA-Templates und Python-DSLs für lineare Algebra mit hoher Leistung

cuDF – GPU-DataFrame-Bibliothek

Beispiele für CUDA-Entwickler, die Funktionen des CUDA Toolkits demonstrieren

Der LLM-Schwachstellenscanner

Eine PyTorch-Erweiterung: Tools für einfache Mixed-Precision- und verteilte Trainings in PyTorch

OpenShell ist die sichere, private Laufzeitumgebung für autonome KI-Agenten.

NVIDIA Isaac GR00T N1.7 – Ein Basismodell für Allzweckroboter.

Ein Python-Framework für GPU-beschleunigte Simulationen, Robotik und maschinelles Lernen.

Synthese und Manipulation von 2048x1024 Bildern mit konditionalen GANs

Transformer-bezogene Optimierung, einschließlich BERT, GPT

Eine GPU-beschleunigte Bibliothek mit hochoptimierten Bausteinen und einer Ausführungs-Engine für die Datenverarbeitung zur Beschleunigung von Deep-Learning-Training- und Inferenzanwendungen.

Tacotron 2 – PyTorch-Implementierung mit schneller-als-Echtzeit-Inferenz

NVIDIA cuML: GPU-beschleunigtes maschinelles Lernen

Optimierte Primitive für kollektive Multi-GPU-Kommunikation

Container unter Nutzung von NVIDIA GPUs erstellen und ausführen

Generative KI-Referenz-Workflows, optimiert für beschleunigte Infrastruktur und Mikroservice-Architektur.

NVIDIA-Geräte-Plugin für Kubernetes

Eine einheitliche Bibliothek für SOTA-Modelloptimierungstechniken wie Quantisierung, Distillation, Pruning, Neural Architecture Search, Speculative Decoding usw. Sie komprimiert Deep-Learning-Modelle für nachgeschaltete Bereitstellungsframeworks wie TensorRT-LLM, TensorRT, vLLM usw., um die Inferenzgeschwindigkeit zu optimieren.

Eine Bibliothek zur Beschleunigung von Transformer-Modellen auf NVIDIA-GPUs, einschließlich der Verwendung von 8-Bit- und 4-Bit-Gleitkommapräzision (FP8 und FP4) auf Hopper-, Ada- und Blackwell-GPUs, um eine bessere Leistung bei geringerer Speichernutzung sowohl beim Training als auch bei der Inferenz zu erzielen.

CUDA Python: Performance trifft auf Produktivität

PyTorch-Implementierung von FlowNet 2.0: Weiterentwicklung der optischen Fluss-Schätzung mit Deep Networks

Open-Source-Deep-Learning-Framework zum Erstellen, Trainieren und Feinabstimmen von Deep-Learning-Modellen mithilfe modernster Physics-ML-Methoden

Agent-Skills für NVIDIA-Produkte — zur Installation in Claude Code, Codex und andere Coding-Agenten, um Physical AI, Robotik, Simulation, CUDA und RAG-Workflows end-to-end auszuführen.

Die NeMo Retriever Library ist ein skalierbares, leistungsorientiertes Mikroservice zur Extraktion von Dokumenteninhalten und Metadaten. Die NeMo Retriever Library nutzt spezialisierte NVIDIA NIM-Mikroservices, um Text, Tabellen, Diagramme und Bilder zu finden, zu kontextualisieren und zu extrahieren, die in nachgelagerten generativen Anwendungen verwendet werden können.

Minkowski Engine ist eine Auto-Diff-Bibliothek für neuronale Netze für hochdimensionale spärliche Tensoren.

Der NVIDIA GPU Operator erstellt, konfiguriert und verwaltet GPUs in Kubernetes

Das NVIDIA NeMo Agent Toolkit ist eine Open-Source-Bibliothek zur effizienten Vernetzung und Optimierung von KI-Agenten-Teams.

CUDA Core Compute Libraries

CUDA-Bibliothekbeispiele

`std::execution`, das C++-Standardframework für asynchrone und parallele Programmierung.

cuTile ist ein Programmiermodell zum Schreiben paralleler Kernel für NVIDIA-GPUs

TensorRT-Erweiterung für die Stable Diffusion Web UI

Von NVIDIA kuratierte Sammlung von Bildungsressourcen zur universellen GPU-Programmierung.

AIStore: Skalierbarer Speicher für KI-Anwendungen

NVIDIA GPU-Metrik-Exporter für Prometheus mit DCGM

Einfache Beispiele für die TensorRT-Programmierung

NCCL-Tests

Dieses Repository enthält den Quellcode für RULER: What’s the Real Context Size of Your Long-Context Language Models?

Tools zum Erstellen von GPU-Clustern

Eine effiziente C++20-GPU-Bibliothek für numerisches Rechnen mit Python-ähnlicher Syntax

NVIDIA DLSS ist ein neues und verbessertes Deep-Learning-Neuronennetzwerk, das die Bildwiederholraten erhöht und schöne, scharfe Bilder für Ihre Spiele erzeugt

Eine schnelle GPU-Speicherkopierbibliothek basierend auf der NVIDIA-GPUDirect-RDMA-Technologie

Dokumentation der NVIDIA-Chip-/Hardwareschnittstellen

Sammlung von Schritt-für-Schritt-Playbooks zur Einrichtung von KI/ML-Workloads auf NVIDIA DGX Spark-Geräten mit Blackwell-Architektur.

Offizielle PyTorch-Implementierung von BigVGAN (ICLR 2023)

LLM-KV-Cache-Kompprimierung leicht gemacht

PyTorch-Implementierung von Audio Flamingo: Eine Reihe fortgeschrittener Sprachmodelle zum Audioverständnis

C++- und Python-Unterstützung für das CUDA Quantum-Programmiermodell für heterogene quanten-klassische Workflows

NVIDIA Container-Runtime-Bibliothek

Open-Source-Deep-Learning-Framework zum Erkunden, Erstellen und Bereitstellen von KI-Wetter-/Klima-Workflows.

Ein einfaches, aber leistungsstarkes Tool, um traditionelle Container-/OS-Images in unprivilegierte Sandboxes zu verwandeln.

Eine Python-Bibliothek, die die Nutzung der GPIOs von Jetson ermöglicht

Offizieller Codebase für „DreamDojo: A Generalist Robot World Model from Large-Scale Human Videos“ (ICML 2026)

RAFT enthält grundlegende, weit verbreitete Algorithmen und Primitiven für Machine Learning und Information Retrieval. Die Algorithmen sind CUDA-beschleunigt und bilden Bausteine zur einfacheren Erstellung von Hochleistungsanwendungen.

GPU-beschleunigte Entscheidungsoptimierung

CUDA Tile IR ist eine MLIR-basierte Zwischendarstellung und Compiler-Infrastruktur für die CUDA-Kernel-Optimierung mit Fokus auf kachelbasierten Berechnungsmustern und Optimierungen für NVIDIA Tensor Core Einheiten.

NVIDIA cuDF für Apache Spark Plugin – Beschleunigung von Apache Spark mit GPUs

NVIDIA Federated Learning Application Runtime Environment

Das cuDNN Frontend ist NVIDIAs moderner Open-Source-Einstiegspunkt in die cuDNN-Bibliothek und eine wachsende Sammlung von Hochleistungs-Open-Source-Kerneln.

CUDA-Kernel-Benchmarking-Bibliothek

Beispiele, die verfügbare Optionen zur Programmierung mehrerer GPUs in einem einzelnen Knoten oder Cluster demonstrieren

cuVS – eine Bibliothek für Vektorsuche und Clustering auf der GPU

Nützliche Kernel-Tutorials, Beispiele und SKILLs für kachelbasierte GPU-Programmierung

NVIDIA Data Center GPU Manager (DCGM) ist ein Projekt zur Erfassung von Telemetriedaten und Messung des Zustands von NVIDIA-GPUs

Ein Tool für Bandbreitenmessungen auf NVIDIA-GPUs.

Differenzierbare Signalverarbeitung auf der Kugel für PyTorch

Bibliothek für verteilte Mehrgitter-Gleichungslöser auf GPU

Verwaltung von Deep-Learning-Experimenten

DreamGen: Eine Initiative des Nvidia GEAR Labs zur Lösung des Robotik-Datenproblems mittels Weltmodellen

NVIDIA Math Libraries für das Python-Ökosystem

Router that virtually distributes inference across connected devices in the home.

NVIDIA NVSHMEM ist eine parallele Programmierschnittstelle für NVIDIA-GPUs basierend auf OpenSHMEM. NVSHMEM reduziert den Kommunikations- und Koordinationsaufwand zwischen Prozessen erheblich, indem es einseitige Kommunikation direkt aus CUDA-Kernels und CUDA-Streams ermöglicht.

Eine Single-Header-C++-Bibliothek zur Vereinfachung der CUDA Runtime Compilation (NVRTC).

Das NVIDIA® Tools Extension SDK (NVTX) ist eine C-basierte Programmierschnittstelle (API) zur Annotation von Ereignissen, Codebereichen und Ressourcen in Ihren Anwendungen.

Bibliothek für SOMA BVH zu humanoidem Roboter-Motion-Retargeting, erstellt mit Newton und NVIDIA Warp.

Die GL Vendor-Neutral Dispatch Bibliothek

Leistungsstarke, leichtgewichtige C++ LLM- und VLM-Inferenzsoftware für Physical AI

NVIDIA Material Definition Language SDK

HPC Container Maker

Our inference and training framework to run on the Cosmos Models