cuda

Praktik terbaik & panduan tentang cara menulis kode pelatihan pytorch terdistribusi

Paket perangkat lunak aljabar linier numerik

Renderer Monte Carlo lintas platform berkinerja tinggi berbasis LuisaCompute.

Mengoptimalkan Pelatihan dan Inferensi AlphaFold pada Kluster GPU

AutoDock untuk GPU dan akselerator lainnya

Sebagian kecil modul neural network PyTorch, ditulis dalam Python menggunakan Triton dari OpenAI.

Aplikasi dan panduan untuk mengonfigurasi Windows, Linux, MacOS, Google TV, Stremio, Home Assistant, dan lainnya dengan mudah (termasuk WSL2, driver GPU, & alat pengembangan). Tingkatkan UX & produktivitas Anda.

Gunakan kecerdasan Anda sendiri - Aplikasi Go yang secara langsung mengintegrasikan llama.cpp untuk inferensi lokal menggunakan akselerasi perangkat keras.

Yet Another Language Model: Inferensi LLM dalam C++/CUDA, tanpa pustaka kecuali untuk I/O

Embedding dengan distorsi minimum menggunakan PyTorch

DaCe - Pemrograman Paralel Berpusat Data

NVIDIA NVSHMEM adalah antarmuka pemrogram pararel untuk GPU NVIDIA yang berbasis pada OpenSHMEM. NVSHMEM dapat secara signifikan mengurangi komunikasi multi-proses dan overhead koordinasi dengan memungkinkan programmer melakukan komunikasi satu sisi dari dalam kernel CUDA dan pada stream CUDA.

Simulator Radar yang dibangun dengan Python dan C++

Proyek bagus untuk rekrutmen kampus, rekrutmen musim gugur, musim semi, dan magang, membimbing Anda membangun kerangka kerja inferensi model besar dari awal yang mendukung LLama2/3 dan Qwen2.5.

Pustaka C++ single-header untuk menyederhanakan penggunaan CUDA Runtime Compilation (NVRTC).

Kumpulan metodologi terbuka untuk membantu pelatihan model bahasa besar (LLM) secara sukses.

Beberapa metode optimasi perkalian matriks umum presisi setengah (HGEMM) menggunakan tensor core dengan API WMMA dan instruksi MMA PTX.

Dari guru ke tile — mesin distilasi & penyajian LLM dari awal: kernel Triton/CUDA kustom, distilasi FSDP, batching kontinu paged-KV, dekoding spekulatif, gateway Rust, oracle JAX, dan alat interpretabilitas.

FlashRT adalah mesin inferensi waktu nyata berkinerja tinggi untuk beban kerja AI batch kecil yang sensitif terhadap latensi. Integrasi utamanya adalah kontrol VLA produksi untuk Pi0, Pi0.5, GROOT N1.6, dan Pi0-FAST. Juga mendukung LLM seperti qwen3.6-27B

Mesin inferensi mini qwen3-0.6B khusus CUDA batch tunggal statis yang suckless

Laboratorium latihan algoritma LLM dengan teori, solusi, dan kasus uji. Tutorial praktik algoritma dari tingkat dasar hingga tingkat lanjut untuk Model Besar, mencakup penjelasan prinsip, analisis jawaban, kasus uji, dan praktik CUDA/Triton.

Gunakan VRAM GPU NVIDIA Anda sebagai ruang swap di Linux. Dibuat untuk laptop dengan memori yang disolder dan tidak bisa diupgrade. Jika Anda memiliki kartu RTX dengan VRAM 8GB yang menganggur dan sistem melakukan swap ke SSD, ini akan memanfaatkan VRAM tersebut.

Perangkat lunak pemrosesan citra untuk mikroskop krio-elektron

Sebuah cluster Slurm menggunakan docker-compose

Paket cu menyediakan antarmuka idiomatik untuk API Driver CUDA.

Implementasi ulang Holistically-Nested Edge Detection di PyTorch

INSTA - Instant Volumetric Head Avatars [CVPR2023]

Visualisasi data dan ray tracing dengan Python berbasis framework OptiX 9.1.

Docker Image untuk Ubuntu Desktop yang mendukung aplikasi GUI dengan akselerasi GPU perangkat keras. Anda dapat mengakses Container menggunakan SSH atau remote desktop, seperti halnya Cloud VM.

🚀🚀🚀 Repositori ini mencantumkan beberapa proyek publik CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX, dan High Performance Computing (HPC) yang luar biasa.