cuda

關於如何編寫分佈式 PyTorch 訓練程式碼的最佳實踐與指南

數值線性代數軟體套件

基於 LuisaCompute 的高效能跨平臺蒙地卡羅渲染器

在 GPU 叢集上最佳化 AlphaFold 的訓練與推論

適用於 GPU 與其他加速器的 AutoDock

PyTorch 神經網路模組的子集，使用 OpenAI 的 Triton 以 Python 編寫。

一個用於輕鬆設定 Windows、Linux、MacOS、Google TV、Stremio、Home Assistant 等系統的應用程式與指南（包含 WSL2、GPU 驅動程式與開發工具）。提升您的使用者體驗與生產力。

賦予應用程式智慧：直接整合 llama.cpp 以利用硬體加速進行本地推論的 Go 應用程式

又一個語言模型：以 C++/CUDA 實作的 LLM 推論，除了 I/O 外不依賴任何函式庫

基於 PyTorch 的最小失真嵌入。

DaCe - 以資料為中心的平行程式設計

NVIDIA NVSHMEM 是一個基於 OpenSHMEM 的 NVIDIA GPU 平行程式設計介面。NVSHMEM 允許程式設計師在 CUDA kernel 和 CUDA stream 中執行單向通訊，從而顯著降低多處理程序通訊與協調的開銷。

使用 Python 與 C++ 建構的雷達模擬器

一個單標頭 C++ 函式庫，用於簡化 CUDA Runtime Compilation (NVRTC) 的使用。

校招、秋招、春招與實習專案，帶您從零實作支援 LLama2/3 與 Qwen2.5 的大模型推理框架。

協助成功訓練大型語言模型的開放方法論集合

使用 WMMA API 與 MMA PTX 指令，透過 Tensor Core 進行半精度通用矩陣乘法 (HGEMM) 的多種最佳化方法。

從教師模型到模型切片——從零開始的 LLM 蒸餾與服務引擎：包含自訂 Triton/CUDA 核心、FSDP 蒸餾、paged-KV 連續批次處理、推測解碼、Rust 閘道、JAX 預測器與可解釋性工具。

FlashRT 是一款高效能即時推論引擎，專為小批次、低延遲 AI 工作負載設計。旗艦整合包含 Pi0、Pi0.5、GROOT N1.6 及 Pi0-FAST 的生產級 VLA 控制，並支援如 qwen3.6-27B 等大型語言模型。

靜態 suckless 單批次僅限 CUDA 的 qwen3-0.6B 小型推論引擎。

LLM algorithm practice lab with theory, solutions, and test cases.《大模型算法与系统教程》面向大模型入门到进阶的算法实战教程，覆盖原理讲解、答案解析、测试用例与 CUDA/Triton 实战。

在 Linux 上將 NVIDIA GPU 的 VRAM 作為交換空間使用。專為記憶體焊死且無法升級的筆電設計。若你有 8GB VRAM 的 RTX 顯卡且系統正頻繁使用 SSD 交換，此工具可有效利用該 VRAM。

用於冷凍電子顯微鏡的影像處理軟體

使用 docker-compose 建立的 Slurm 叢集

cu 套件提供 CUDA Driver API 的慣用介面

Holistically-Nested Edge Detection 的 PyTorch 重新實作。

基於 OptiX 9.1 框架的 Python 資料視覺化與光線追蹤工具。

INSTA - 即時體積頭部虛擬化身 [CVPR2023]

支援硬體 GPU 加速 GUI 應用程式的 Ubuntu Desktop Docker 映像檔。您可以像使用雲端 VM 一樣，透過 SSH 或遠端桌面存取容器。

使用 PyTorch 實作可微分前向扭曲 (differentiable forward warping) 的 softmax splatting