NVIDIA

在 NVIDIA OpenShell 中更安全地运行 Hermes、LangChain Deep Agents 和 OpenClaw 等代理，使用托管推理。

持续进行大规模训练 transformer 模型的研究

NVIDIA Linux 开放 GPU 核心模块源码

AI 代理技能的安全扫描器。检测 Claude Code、Codex、MCP 技能中的漏洞、恶意模式、安全风险、提示注入、数据外泄与供应链风险，让您在安装前先行了解。

最先进的深度学习脚本，按模型组织，易于训练和部署，在企业级基础设施上提供可重现的准确度和性能。

TensorRT LLM 为用户提供易用的 Python API 来定义大型语言模型（LLM），并支持最先进的优化，以在 NVIDIA GPU 上高效执行推理。TensorRT LLM 还包含创建 Python 和 C++ 运行时的组件，以高性能方式编排推理执行。

NVIDIA® TensorRT™ 是一套在 NVIDIA GPU 上进行高效深度学习推理的 SDK。本仓库包含 TensorRT 的开源组件。

NVIDIA Cosmos 是一个开放平台，提供世界模型、数据集与工具，使开发者能够为机器人、自动驾驶车辆、智能基础设施等构建实体 AI

PersonaPlex 代码。

用于高性能线性代数的 CUDA 模板与 Python DSL

cuDF - GPU 数据框架库

CUDA 开发者示例，展示 CUDA Toolkit 的功能

LLM 漏洞扫描器

PyTorch 扩展：提供简易混合精度和分布式训练工具

OpenShell 是安全、私密的自主 AI 代理运行时

NVIDIA Isaac GR00T N1.7 - 通用机器人基础模型。

用于 GPU 加速仿真、机器人和机器学习的 Python 框架

使用条件 GAN 生成与操作 2048x1024 图像

Transformer 相关优化，包括 BERT、GPT

GPU 加速库，包含高度优化的构建块和执行引擎，用于数据处理，加速深度学习训练和推理应用。

Tacotron 2 - PyTorch 实作，推理速度快于实时

NVIDIA cuML：GPU 加速的机器学习库

为多 GPU 通讯优化的原语，支持集合运算。

利用 NVIDIA GPU 构建并执行容器

为加速基础设施与微服务架构优化的生成式 AI 参考工作流程

NVIDIA 设备插件，适用于 Kubernetes

统一的 SOTA 模型优化技术库，如量化、蒸馏、修剪、神经网络架构搜索、推测解码等。可将深度学习模型压缩以供 TensorRT-LLM、TensorRT、vLLM 等下游部署框架使用，优化推理速度

A library for accelerating Transformer models on NVIDIA GPUs, including using 8-bit and 4-bit floating point (FP8 and FP4) precision on Hopper, Ada and Blackwell GPUs, to provide better performance with lower memory utilization in both training and inference.

CUDA Python：性能与生产力的结合

FlowNet 2.0 的 PyTorch 实作：使用深度网络演进光流估计。

开源深度学习框架，使用最先进的Physics-ML方法构建、训练与微调模型

适用于 NVIDIA 产品的 Agent Skills — 可安装至 Claude Code、Codex 及其他编码 Agent，以端到端运行物理 AI、机器人、模拟、CUDA 和 RAG 工作流。

NeMo Retriever Library 是一个具备扩展性、注重性能的文档内容与元数据（metadata）提取微服务。NeMo Retriever Library 使用专门的 NVIDIA NIM 微服务来寻找、上下文关联并提取文本、表格、图表和图片，供您在下游生成式应用程序中使用。

Minkowski Engine 是一个用于高维稀疏张量的自动微分神经网络库

NVIDIA GPU Operator 用于在 Kubernetes 中创建、配置与管理 GPU

NVIDIA NeMo Agent 工具包是一个开源库，用于高效地连接和优化 AI 智能体团队。

CUDA 核心计算库

CUDA 库示例

`std::execution`，用于异步和并行编程的 C++ 标准框架。

cuTile 是一个用于为 NVIDIA GPU 编写并行内核的编程模型

Stable Diffusion Web UI 的 TensorRT 扩展

NVIDIA 精选的通用 GPU 编程相关教育资源集合。

AIStore：适用于 AI 应用的可扩展存储

利用 DCGM 为 Prometheus 提供的 NVIDIA GPU 指标导出工具

TensorRT 编程的简单示例

NCCL 测试

此仓库包含 RULER 的源代码：您的长上下文语言模型的真实上下文大小是多少？

用于构建 GPU 集群的工具

具备类似 Python 语法的高效 C++20 GPU 数值计算库

NVIDIA DLSS 是一个全新且改进的深度学习神经网络，可提升游戏帧率并产生美丽、锐利的图像

基于 NVIDIA GPUDirect RDMA 技术的高性能 GPU 内存复制库

NVIDIA 芯片／硬件接口文档

在具备 Blackwell 架构的 NVIDIA DGX Spark 装置上设定 AI/ML 工作负载的逐步 Playbook 集合。

BigVGAN 官方 PyTorch 实现 (ICLR 2023)

让 LLM KV 缓存压缩变得轻松简单

Audio Flamingo 的 PyTorch 实现：一系列先进的音频理解语言模型

为异构量子-经典工作流程的 CUDA Quantum 编程模型提供 C++ 与 Python 支持

NVIDIA 容器运行时库

用于探索、构建与部署 AI 天气／气候工作流程的开源深度学习框架

一个简单而强大的工具，可将传统容器/操作系统映像档转化为无特权沙箱。

Router that virtually distributes inference across connected devices in the home.

一个支持使用 Jetson GPIO 的 Python 库。

“DreamDojo: A Generalist Robot World Model from Large-Scale Human Videos”(ICML 2026) 官方代码库

RAFT 包含机器学习与信息检索中基础且广泛使用的算法与原语。这些算法经过 CUDA 加速，并构成了更轻松编写高性能应用程序的基础组件。

GPU 加速的决策优化

CUDA Tile IR 是一个基于 MLIR 的中间表示与编译器基础架构，用于 CUDA 内核优化，专注于以块（tile）为基础的计算模式与针对 NVIDIA Tensor Core 单元的优化。

适用于 Apache Spark 的 NVIDIA cuDF 插件 - 使用 GPU 加速 Apache Spark

NVIDIA 联邦学习应用程序运行时环境

cuDNN Frontend 是 NVIDIA 的现代化开源 cuDNN 库入口，并提供日益增加的高性能开源核心集合。

CUDA Kernel 性能评测库

示范在单个节点或集群中对多个 GPU 进行编程之可用选项的示例

cuVS - 用于 GPU 上进行向量搜索与分群的函式库

针对图块式 GPU 编程的实用核心教程、示例与技能 (SKILLs)

NVIDIA Data Center GPU Manager (DCGM) 是一个用于收集遥测数据与测量 NVIDIA GPU 健康状况的项目。

用于 NVIDIA GPU 带宽测量的工具。

用于 PyTorch 的球体可微分信号处理

基于 GPU 的分布式多重网格线性求解器库

深度学习实验管理

DreamGen：Nvidia GEAR Lab 旨在利用世界模型解决机器人数据问题的计划。

适用于 Python 生态系统的 NVIDIA 数学库

NVIDIA NVSHMEM 是一个基于 OpenSHMEM 的 NVIDIA GPU 并行编程接口。NVSHMEM 允许程序员在 CUDA kernel 和 CUDA stream 中执行单向通信，从而显著降低多进程通信与协调的开销。

一个单头文件 C++ 库，用于简化 CUDA Runtime Compilation (NVRTC) 的使用。

NVIDIA® Tools Extension SDK (NVTX) 是一个基于 C 的应用程序接口 (API)，用于标注应用程序中的事件、代码范围与资源

使用 Newton 与 NVIDIA Warp 构建的 SOMA BVH 至人形机器人动作重定向库

用于实体 AI 的高性能、轻量级 C++ LLM 与 VLM 推理软件

GL 供应商中立分发库。

NVIDIA Material Definition Language SDK

HPC 容器生成器

Our inference and training framework to run on the Cosmos Models