cuda

Hệ sinh thái các thư viện và công cụ để viết và thực thi mã GPU nhanh hoàn toàn bằng Rust.

NVIDIA cuML: Học máy tăng tốc bằng GPU

Thư viện PyTorch để tăng tốc nghiên cứu học sâu 3D

Các hàm nguyên thủy được tối ưu hóa cho giao tiếp đa GPU tập thể

ArrayFire: một thư viện GPU đa năng.

Côngemy suy luận nhanh cho các mô hình Transformer

Tengine là một công cụ suy luận mô-đun, hiệu năng cao, gọn nhẹ dành cho thiết bị nhúng.

Khung mạng neural C++/CUDA cực nhanh

HIP: Giao diện tính toán dị thể C++ để chuyển Ứng dụng

Một bộ công cụ thời gian chạy và trình biên dịch máy học dựa trên MLIR có thể tái định hướng.

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention đạt tốc độ xử lý nhanh hơn 2-5 lần so với FlashAttention, mà không làm giảm các chỉ số tổng thể trên các mô hình ngôn ngữ, hình ảnh và video.

Đào tạo, kiểm tra, chỉnh sửa, tự động hóa và xuất các cảnh 3D Gaussian Splatting từ một ứng dụng gốc duy nhất.

Một thư viện tăng tốc các mô hình Transformer trên GPU NVIDIA, bao gồm sử dụng độ chính xác dấu phẩy động 8-bit và 4-bit (FP8 và FP4) trên GPU Hopper, Ada và Blackwell, nhằm cung cấp hiệu suất tốt hơn với mức sử dụng bộ nhớ thấp hơn trong cả quá trình huấn luyện và suy luận.

Phần mềm NVR và Thị giác máy tính AI tự lưu trữ, chỉ chạy cục bộ. Với các tính năng như phát hiện đối tượng, phát hiện chuyển động, nhận diện khuôn mặt và nhiều tính năng khác, giúp bạn giám sát ngôi nhà, văn phòng hoặc bất kỳ nơi nào bạn muốn.

LYGIA là một thư viện shader dạng hạt và đa ngôn ngữ (GLSL, HLSL, Metal, WGSL, WEGL và CUDA) được thiết kế cho hiệu suất và tính linh hoạt

Tệp C duy nhân, Trình cấu hình CPU/GPU thời gian thực với Trình xem Web từ xa

cách tối ưu hóa một số thuật toán trong CUDA.

Jittor là một framework học sâu hiệu năng cao dựa trên biên dịch JIT và meta-operator.

Công cụ chơi cờ vua bằng mạng nơ-ron mã nguồn mở với khả năng tăng tốc GPU và hỗ trợ phần cứng rộng rãi.

Kỹ năng Agent dành cho sản phẩm NVIDIA — cài đặt vào Claude Code, Codex và các coding agent khác để chạy toàn diện các luồng công việc về AI vật lý, robot, mô phỏng, CUDA và RAG.

cuda-oxide là một trình biên dịch thử nghiệm từ Rust sang CUDA cho phép bạn viết các kernel GPU (SIMT) bằng mã Rust an toàn (tương đối), chuẩn mực. Nó biên dịch mã Rust tiêu chuẩn trực tiếp thành PTX — không cần DSL, không cần liên kết ngôn ngữ khác, chỉ thuần túy là Rust.

Kho lưu trữ phân tích thời gian thực được hỗ trợ bởi GPU và công cụ truy vấn.

HeavyDB (trước đây là MapD/OmniSciDB)

RamaLama là công cụ dành cho nhà phát triển mã nguồn mở giúp đơn giản hóa việc triển khai cục bộ các mô hình AI từ mọi nguồn và hỗ trợ sử dụng chúng để suy luận trong môi trường production, tất cả thông qua cú pháp quen thuộc của container.

Trình biên dịch PyTorch/TorchScript/FX cho GPU NVIDIA sử dụng TensorRT

Lượng tử hóa gốc bằng PyTorch cho việc huấn luyện và suy luận

Minkowski Engine là một thư viện mạng nơ-ron tự động tính đạo hàm (auto-diff) cho tensor thưa chiều cao

NVIDIA GPU Operator tạo, cấu hình và quản lý GPU trong Kubernetes

Máy chủ suy luận phỏng đoán LLM cho phần cứng tiêu dùng và không đồng nhất

:boom::computer::boom: Một ngôn ngữ lập trình hàm song song dữ liệu