NVIDIA

Jalankan agen seperti Hermes, LangChain Deep Agents, dan OpenClaw dengan lebih aman di dalam NVIDIA OpenShell menggunakan inferensi terkelola

Penelitian berkelanjutan dalam melatih model transformer dalam skala besar.

Sumber kode modul kernel GPU open-source NVIDIA untuk Linux

Pemindai keamanan untuk skill AI agent. Mendeteksi kerentanan, pola berbahaya, risiko keamanan, prompt injection, eksfiltrasi data, dan risiko rantai pasokan pada Claude Code, Codex, dan skill MCP sebelum diinstal.

Skrip Deep Learning mutakhir yang diatur berdasarkan model - mudah dilatih dan diterapkan dengan akurasi serta performa yang dapat direproduksi pada infrastruktur kelas perusahaan.

TensorRT LLM menyediakan API Python yang mudah digunakan bagi pengguna untuk mendefinisikan Large Language Models (LLM) dan mendukung optimasi terkini untuk melakukan inferensi secara efisien pada GPU NVIDIA. TensorRT LLM juga berisi komponen untuk membuat runtime Python dan C++ yang mengatur eksekusi inferensi dengan performa tinggi.

NVIDIA® TensorRT™ adalah SDK untuk inferensi pembelajaran mendalam berkinerja tinggi pada GPU NVIDIA. Repositori ini berisi komponen sumber terbuka dari TensorRT.

NVIDIA Cosmos adalah platform terbuka untuk model dunia, dataset, dan alat yang memungkinkan pengembang membangun AI Fisik untuk robot, kendaraan otonom, infrastruktur pintar, dan banyak lagi.

Kode PersonaPlex.

Template CUDA dan DSL Python untuk Aljabar Linear Kinerja Tinggi

cuDF - Pustaka GPU DataFrame

Sampel untuk pengembang CUDA yang mendemonstrasikan fitur-fitur dalam CUDA Toolkit

Pemindai kerentanan LLM

Ekstensi PyTorch: Alat untuk pelatihan presisi campuran dan terdistribusi yang mudah di PyTorch

OpenShell adalah runtime yang aman dan privat untuk agen AI otonom.

NVIDIA Isaac GR00T N1.7 - Model Fondasi untuk Robot Generalis.

Kerangka kerja Python untuk simulasi, robotika, dan machine learning yang dipercepat GPU.

Mensintesis dan memanipulasi gambar 2048x1024 dengan conditional GANs.

Optimasi terkait Transformer, termasuk BERT, GPT

Pustaka berakselerasi GPU yang berisi blok bangunan yang sangat dioptimalkan dan mesin eksekusi untuk pemrosesan data guna mempercepat aplikasi pelatihan dan inferensi pembelajaran mendalam.

Tacotron 2 - Implementasi PyTorch dengan inferensi yang lebih cepat dari waktu nyata

NVIDIA cuML: Machine Learning yang Dipercepat GPU

Primitif yang dioptimalkan untuk komunikasi multi-GPU kolektif.

Membangun dan menjalankan kontainer dengan memanfaatkan GPU NVIDIA

Alur kerja referensi Generative AI yang dioptimalkan untuk infrastruktur terakselerasi dan arsitektur layanan mikro.

Plugin perangkat NVIDIA untuk Kubernetes

Pustaka terpadu untuk teknik optimasi model SOTA seperti kuantisasi, distilasi, pruning, pencarian arsitektur saraf, speculative decoding, dll. Pustaka ini mengompresi model deep learning untuk kerangka kerja deployment hilir seperti TensorRT-LLM, TensorRT, vLLM, dll. guna mengoptimalkan kecepatan inferensi.

Sebuah pustaka untuk mengakselerasi model Transformer pada GPU NVIDIA, termasuk menggunakan presisi floating point 8-bit dan 4-bit (FP8 dan FP4) pada GPU Hopper, Ada, dan Blackwell, untuk memberikan performa yang lebih baik dengan penggunaan memori yang lebih rendah baik dalam pelatihan maupun inferensi.

CUDA Python: Performa bertemu produktivitas

Implementasi Pytorch untuk FlowNet 2.0: Evolusi Estimasi Aliran Optik dengan Jaringan Mendalam.

Kerangka kerja pembelajaran mendalam sumber terbuka untuk membangun, melatih, dan menyempurnakan model pembelajaran mendalam menggunakan metode Physics-ML terkini

Agent Skills untuk produk NVIDIA — instal ke Claude Code, Codex, dan agen pengodean lainnya untuk menjalankan alur kerja Physical AI, robotika, simulasi, CUDA, dan RAG secara menyeluruh.

NeMo Retriever Library adalah layanan mikro ekstraksi konten dokumen dan metadata yang dapat diskalakan dan berorientasi pada performa. NeMo Retriever Library menggunakan layanan mikro NVIDIA NIM khusus untuk menemukan, mengontekstualisasikan, dan mengekstrak teks, tabel, bagan, dan gambar yang dapat Anda gunakan dalam aplikasi generatif hilir.

Minkowski Engine adalah pustaka jaringan saraf auto-diff untuk tensor jarang berdimensi tinggi

NVIDIA GPU Operator membuat, mengonfigurasi, dan mengelola GPU di Kubernetes

NVIDIA NeMo Agent toolkit adalah pustaka sumber terbuka untuk menghubungkan dan mengoptimalkan tim agen AI secara efisien.

Pustaka Komputasi Inti CUDA.

Sampel Pustaka CUDA.

`std::execution`, kerangka kerja C++ standar untuk pemrograman asinkron dan paralel.

cuTile adalah model pemrograman untuk menulis kernel paralel bagi GPU NVIDIA

Ekstensi TensorRT untuk Stable Diffusion Web UI

Koleksi sumber daya pendidikan kurasi NVIDIA yang berkaitan dengan pemrograman GPU tujuan umum.

AIStore: penyimpanan berskala besar untuk aplikasi AI

Eksportir metrik GPU NVIDIA untuk Prometheus yang memanfaatkan DCGM

Contoh sederhana untuk pemrograman TensorRT

Uji NCCL

Repositori ini berisi kode sumber untuk RULER: Berapa Ukuran Konteks Asli dari Model Bahasa Konteks Panjang Anda?

Alat untuk membangun kluster GPU

Pustaka komputasi numerik GPU C++20 yang efisien dengan sintaks mirip Python

NVIDIA DLSS adalah jaringan saraf pembelajaran mendalam baru yang ditingkatkan untuk meningkatkan kecepatan bingkai dan menghasilkan gambar yang indah serta tajam untuk game Anda

Pustaka salin memori GPU yang cepat berdasarkan teknologi NVIDIA GPUDirect RDMA

Dokumentasi antarmuka chip/perangkat keras NVIDIA

Kumpulan playbook langkah demi langkah untuk menyiapkan beban kerja AI/ML pada perangkat NVIDIA DGX Spark dengan arsitektur Blackwell.

Implementasi resmi PyTorch dari BigVGAN (ICLR 2023)

Kompresi KV cache LLM menjadi lebih mudah

Implementasi PyTorch dari Audio Flamingo: Seri Model Bahasa Pemahaman Audio Tingkat Lanjut

Pustaka runtime container NVIDIA

Dukungan C++ dan Python untuk model pemrograman CUDA Quantum bagi alur kerja kuantum-klasik heterogen

Framework deep-learning sumber terbuka untuk mengeksplorasi, membangun, dan menerapkan alur kerja cuaca/iklim berbasis AI.

Alat sederhana namun canggih untuk mengubah container/image OS tradisional menjadi sandbox tanpa hak akses istimewa.

Pustaka Python yang memungkinkan penggunaan GPIO Jetson

Basis Kode Resmi untuk "DreamDojo: A Generalist Robot World Model from Large-Scale Human Videos" (ICML 2026)

RAFT berisi algoritma fundamental dan primitif yang banyak digunakan untuk machine learning daninformation retrieval. Algoritma ini dipercepat dengan CUDA dan membentuk blok penyusun untuk menulis aplikasi berkinerja tinggi dengan lebih mudah.

Optimasi keputusan yang dipercepat oleh GPU

CUDA Tile IR adalah representasi perantara dan infrastruktur kompilator berbasis MLIR untuk optimasi kernel CUDA, yang berfokus pada pola komputasi berbasis tile dan optimasi yang menargetkan unit tensor core NVIDIA.

Plugin NVIDIA cuDF untuk Apache Spark - mempercepat Apache Spark dengan GPU.

Lingkungan Runtime Aplikasi Pembelajaran Federasi NVIDIA

Pustaka Pembandingan Kernel CUDA

Frontend cuDNN adalah titik masuk modern dan sumber terbuka milik NVIDIA ke perpustakaan cuDNN serta kumpulan kernel sumber terbuka performa tinggi yang terus berkembang.

Contoh yang menunjukkan opsi yang tersedia untuk memprogram beberapa GPU dalam satu node atau klaster

cuVS - pustaka untuk pencarian vektor dan pengelompokan pada GPU.

Tutorial kernel, contoh, dan SKILL yang bermanfaat untuk pemrograman GPU berbasis ubin

NVIDIA Data Center GPU Manager (DCGM) adalah proyek untuk mengumpulkan telemetri dan mengukur kesehatan GPU NVIDIA

Alat untuk pengukuran bandwidth pada GPU NVIDIA.

Pemrosesan sinyal terdiferensiasi pada sphere untuk PyTorch

Pustaka pemecah linear multigrid terdistribusi pada GPU.

Manajemen eksperimen Deep Learning

DreamGen: Inisiatif Nvidia GEAR Lab untuk memecahkan masalah data robotika menggunakan model dunia.

Pustaka Matematika NVIDIA untuk Ekosistem Python

NVIDIA NVSHMEM adalah antarmuka pemrogram pararel untuk GPU NVIDIA yang berbasis pada OpenSHMEM. NVSHMEM dapat secara signifikan mengurangi komunikasi multi-proses dan overhead koordinasi dengan memungkinkan programmer melakukan komunikasi satu sisi dari dalam kernel CUDA dan pada stream CUDA.

Pustaka C++ single-header untuk menyederhanakan penggunaan CUDA Runtime Compilation (NVRTC).

NVIDIA® Tools Extension SDK (NVTX) adalah Application Programming Interface (API) berbasis C untuk menganotasi event, rentang kode, dan sumber daya dalam aplikasi Anda.

Pustaka retargeting gerakan robot humanoid SOMA BVH yang dibangun dengan Newton dan NVIDIA Warp

Pustaka GL Vendor-Neutral Dispatch

SDK NVIDIA Material Definition Language

Perangkat Lunak Inferensi LLM dan VLM C++ yang berkinerja tinggi dan ringan untuk AI Fisik

Pembuat Kontainer HPC