NVIDIA

Chạy các tác nhân như Hermes, LangChain Deep Agents và OpenClaw an toàn hơn bên trong NVIDIA OpenShell với tính năng suy luận được quản lý

Nghiên cứu đang diễn ra về việc huấn luyện các mô hình transformer ở quy mô lớn

Mã nguồn module nhân GPU mở Linux của NVIDIA

Trình quét bảo mật cho các kỹ năng của tác nhân AI. Phát hiện lỗ hổng, mẫu độc hại, rủi ro bảo mật, prompt injection, rò rỉ dữ liệu và rủi ro chuỗi cung ứng trong các kỹ năng Claude Code, Codex và MCP trước khi bạn cài đặt chúng.

Các tập lệnh Deep Learning tiên tiến được sắp xếp theo các mô hình - dễ huấn luyện và triển khai với độ chính xác và hiệu suất có thể tái tạo trên cơ sở hạ tầng cấp doanh nghiệp.

TensorRT LLM cung cấp cho người dùng một API Python dễ sử dụng để định nghĩa các Mô hình Ngôn ngữ Lớn (LLM) và hỗ trợ các tối ưu hóa tiên tiến nhất để thực thi suy luận hiệu quả trên GPU NVIDIA. TensorRT LLM cũng bao gồm các thành phần để tạo môi trường thực thi (runtime) Python và C++ giúp điều phối quá trình thực thi suy luận đạt hiệu suất cao.

NVIDIA® TensorRT™ là một SDK dành cho suy luận học sâu hiệu năng cao trên GPU NVIDIA. Kho lưu trữ này chứa các thành phần mã nguồn mở của TensorRT.

NVIDIA Cosmos là một nền tảng mở gồm các mô hình thế giới, tập dữ liệu và công cụ cho phép các nhà phát triển xây dựng AI Vật lý cho robot, xe tự hành, cơ sở hạ tầng thông minh và nhiều hơn nữa.

Mã nguồn PersonaPlex.

CUDA Templates và Python DSLs cho Đại số tuyến tính hiệu năng cao

cuDF - Thư viện DataFrame GPU

Các mẫu dành cho nhà phát triển CUDA minh họa các tính năng trong CUDA Toolkit

trình quét lỗ hổng LLM

Một tiện ích mở rộng của PyTorch: Công cụ hỗ trợ huấn luyện phân tán và hỗn hợp chính xác dễ dàng trong PyTorch

OpenShell là môi trường chạy an toàn, riêng tư dành cho các tác nhân AI tự động.

NVIDIA Isaac GR00T N1.7 - Mô hình nền tảng cho robot đa năng.

Một Python framework dành cho mô phỏng tăng tốc GPU, robot và học máy.

Tổng hợp và thao tác với hình ảnh 2048x1024 bằng các GAN có điều kiện

Tối ưu hóa liên quan đến Transformer, bao gồm BERT, GPT

Thư viện tăng tốc bằng GPU chứa các khối xây dựng được tối ưu hóa cao và công cụ thực thi để xử lý dữ liệu nhằm tăng tốc các ứng dụng huấn luyện và suy luận học sâu.

Tacotron 2 - Triển khai bằng PyTorch với khả năng suy luận nhanh hơn thời gian thực

NVIDIA cuML: Học máy tăng tốc bằng GPU

Các hàm nguyên thủy được tối ưu hóa cho giao tiếp đa GPU tập thể

Xây dựng và chạy các container tận dụng GPU NVIDIA

Quy trình làm việc tham khảo AI tạo sinh được tối ưu hóa cho cơ sở hạ tầng tăng tốc và kiến trúc vi dịch vụ.

NVIDIA device plugin cho Kubernetes

Thư viện thống nhất các kỹ thuật tối ưu hóa mô hình SOTA như lượng tử hóa, chưng cất, cắt tỉa, tìm kiếm kiến trúc thần kinh, giải mã dự đoán, v.v. Nó nén các mô hình deep learning cho các framework triển khai hạ nguồn như TensorRT-LLM, TensorRT, vLLM, v.v. để tối ưu hóa tốc độ suy luận.

Một thư viện tăng tốc các mô hình Transformer trên GPU NVIDIA, bao gồm sử dụng độ chính xác dấu phẩy động 8-bit và 4-bit (FP8 và FP4) trên GPU Hopper, Ada và Blackwell, nhằm cung cấp hiệu suất tốt hơn với mức sử dụng bộ nhớ thấp hơn trong cả quá trình huấn luyện và suy luận.

CUDA Python: Nơi hiệu năng gặp gỡ năng suất

Bản cài đặt PyTorch của FlowNet 2.0: Sự tiến hóa của ước lượng quang lưu với mạng Neuron sâu

Framework deep-learning mã nguồn mở dùng để xây dựng, huấn luyện và tinh chỉnh các mô hình deep learning bằng các phương pháp Physics-ML tiên tiến

Kỹ năng Agent dành cho sản phẩm NVIDIA — cài đặt vào Claude Code, Codex và các coding agent khác để chạy toàn diện các luồng công việc về AI vật lý, robot, mô phỏng, CUDA và RAG.

Thư viện NeMo Retriever là một vi dịch vụ trích xuất siêu dữ liệu và nội dung tài liệu có thể mở rộng, định hướng hiệu suất. Thư viện NeMo Retriever sử dụng các vi dịch vụ NVIDIA NIM chuyên biệt để tìm kiếm, tạo ngữ cảnh và trích xuất văn bản, bảng, biểu đồ và hình ảnh mà bạn có thể sử dụng trong các ứng dụng tạo sinh hạ lưu.

Minkowski Engine là một thư viện mạng nơ-ron tự động tính đạo hàm (auto-diff) cho tensor thưa chiều cao

NVIDIA GPU Operator tạo, cấu hình và quản lý GPU trong Kubernetes

NVIDIA NeMo Agent toolkit là một thư viện mã nguồn mở giúp kết nối và tối ưu hóa các nhóm AI agent một cách hiệu quả.

Các thư viện tính toán cốt lõi CUDA

Các ví dụ về thư viện CUDA

`std::execution`, framework C++ chuẩn cho lập trình bất đồng bộ và song song.

cuTile là một mô hình lập trình để viết các kernel song song cho GPU NVIDIA

Tiện ích mở rộng TensorRT cho Stable Diffusion Web UI

Bộ sưu tập tài nguyên giáo dục được tuyển chọn bởi NVIDIA liên quan đến lập trình GPU đa năng.

AIStore: lưu trữ khả mở cho các ứng dụng AI

Trình xuất số liệu NVIDIA GPU cho Prometheus sử dụng DCGM

Các ví dụ đơn giản cho lập trình TensorRT

Các bài kiểm tra NCCL

Kho lưu trữ này chứa mã nguồn cho RULER: Kích thước ngữ cảnh thực sự của các mô hình ngôn ngữ ngữ cảnh dài của bạn là gì?

Công cụ xây dựng cụm GPU

Thư viện tính toán số học GPU C++20 hiệu quả với cú pháp giống Python

NVIDIA DLSS là một mạng neural học sâu mới và được cải tiến giúp tăng tốc độ khung hình và tạo ra hình ảnh sắc nét, đẹp mắt cho trò chơi của bạn

Thư viện sao chép bộ nhớ GPU nhanh dựa trên công nghệ NVIDIA GPUDirect RDMA

Tài liệu về giao diện chip/phần cứng NVIDIA

Bộ sưu tập các sổ tay hướng dẫn từng bước để thiết lập khối lượng công việc AI/ML trên các thiết bị NVIDIA DGX Spark với kiến trúc Blackwell.

Triển khai chính thức bằng PyTorch của BigVGAN (ICLR 2023)

Làm cho việc nén bộ nhớ đệm KV của LLM trở nên dễ dàng

Bản cài đặt PyTorch của Audio Flamingo: Chuỗi các Mô hình Ngôn ngữ Hiểu Âm thanh Nâng cao

Thư viện runtime container của NVIDIA

Hỗ trợ C++ và Python cho mô hình lập trình CUDA Quantum cho các quy trình làm việc lượng tử-cổ điển dị thể

Framework học sâu mã nguồn mở dùng để khám phá, xây dựng và triển khai các quy trình thời tiết/khí hậu AI.

Một công cụ đơn giản nhưng mạnh mẽ để chuyển đổi các image container/OS truyền thống thành các sandbox không có quyền root.

Thư viện Python cho phép sử dụng các GPIO của Jetson

Mã nguồn chính thức cho "DreamDojo: A Generalist Robot World Model from Large-Scale Human Videos" (ICML 2026)

RAFT chứa các thuật toán cơ bản được sử dụng rộng rãi và các nguyên hàm cho học máy và truy xuất thông tin. Các thuật toán này được tăng tốc bằng CUDA và tạo thành các khối xây dựng để dễ dàng viết các ứng dụng hiệu suất cao hơn.

Tối ưu hóa quyết định được tăng tốc bằng GPU

CUDA Tile IR là biểu diễn trung gian dựa trên MLIR và cơ sở hạ tầng trình biên dịch để tối ưu hóa kernel CUDA, tập trung vào các mẫu tính toán dựa trên tile và tối ưu hóa nhắm mục tiêu vào các đơn vị tensor core của NVIDIA.

Plugin NVIDIA cuDF cho Apache Spark - tăng tốc Apache Spark bằng GPU

Môi trường chạy ứng dụng học tập liên kết (Federated Learning) của NVIDIA

Thư viện benchmark CUDA Kernel

cuDNN Frontend là điểm truy cập hiện đại, mã nguồn mở của NVIDIA vào thư viện cuDNN và tập hợp ngày càng phát triển các kernel mã nguồn mở hiệu năng cao.

Các ví dụ minh họa những tùy chọn có sẵn để lập trình nhiều GPU trong một node hoặc một cluster

cuVS - thư viện tìm kiếm vector và phân cụm trên GPU

Các hướng dẫn, ví dụ và kỹ năng hữu ích về kernel cho lập trình GPU dựa trên tile

NVIDIA Data Center GPU Manager (DCGM) là dự án thu thập dữ liệu từ xa và đo lường tình trạng sức khỏe của GPU NVIDIA

Công cụ đo băng thông trên GPU NVIDIA.

Xử lý tín hiệu khả vi trên hình cầu cho PyTorch

Thư viện giải phương trình tuyến tính đa lưới phân tán trên GPU

Quản lý thử nghiệm Deep Learning

DreamGen: Sáng kiến của Nvidia GEAR Lab nhằm giải quyết vấn đề dữ liệu robot bằng cách sử dụng các mô hình thế giới

Các thư viện toán học NVIDIA cho hệ sinh thái Python.

NVIDIA NVSHMEM là giao diện lập trình song song cho GPU NVIDIA dựa trên OpenSHMEM. NVSHMEM có thể giảm đáng kể chi phí liên lạc và điều phối đa tiến trình bằng cách cho phép lập trình viên thực hiện giao tiếp một chiều từ bên trong các nhân CUDA và trên các luồng CUDA.

Thư viện C++ single-header giúp đơn giản hóa việc sử dụng CUDA Runtime Compilation (NVRTC).

NVIDIA® Tools Extension SDK (NVTX) là một Giao diện lập trình ứng dụng (API) dựa trên C dùng để chú thích các sự kiện, phạm vi mã và tài nguyên trong ứng dụng của bạn.

Thư viện chuyển đổi chuyển động từ SOMA BVH sang robot hình người, được xây dựng bằng Newton và NVIDIA Warp.

Thư viện điều phối trung lập với nhà cung cấp GL (GL Vendor-Neutral Dispatch).

NVIDIA Material Definition Language SDK

Phần mềm suy luận LLM và VLM bằng C++ hiệu năng cao, nhẹ dành cho Physical AI

Công cụ tạo container cho HPC