cuda

🚀🚀🚀 收集一些關於大型語言模型（LLM）、視覺語言模型（VLM）、視覺語言動作（VLA）、AI 生成內容（AIGC）以及相關資料集與應用的優秀公開專案。

TIGRE：基於 GPU 的斷層掃描迭代重建工具箱

[内测中]QPT - 致力于让开源项目更好通往互联网世界的Python to EXE工具（Python打包）。

快速多維度稀疏注意力機制

高效能、GPU 加速的訊號處理與視覺化框架，可在任何地方執行。

SOMA：統一引數化人體模型

oneAPI 數學函式庫 (oneMath)

列主序矩陣乘法最佳化

基於 eBPF 的隨時線上 CPU/GPU 效能剖析器，可自動發現 Kubernetes 與 systemd 中的目標，無需修改程式碼或重新啟動！

適用於 PyTorch 的（可微分）軟動態時間差分演算法快速 CUDA 實作

Official SGLang × Datawhale course on LLM inference (中英双语): understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. 《从零手搓SGLang》：读懂推理，手搓 mini-sglang，吃透 SGLang 源码。

RAPIDS 記憶體管理器

VexCL 是一個用於 OpenCL/CUDA/OpenMP 的 C++ 向量表達式模板庫

一個完全本機且具隱私的語音轉文字應用程式，提供多種模型後端、說話者分離與日曆模式 - 支援 Windows、macOS 與 Linux

適用於 PC/Linux/Android 的 Vulkan、OptiX 與 CUDA 互通模組化渲染函式庫與框架

ThunderGBM：GPU 上的快速 GBDT 與隨機森林

人人皆可使用的無伺服器 LLM 推論服務

一個零依賴的 C 語言 ML 框架，具有現代化的 Python API，可完全掌控執行與記憶體。

AI 從零到英雄

適用於所有 FPS 與 TPS 遊戲的基於 AI 的自動瞄準器

純 Rust + CUDA LLM 推論引擎 — 無需 PyTorch，相容 OpenAI，支援 Qwen3 至 Kimi-K2 服務

純 Rust 推論引擎

使用 Chatterbox 的本地、相容 OpenAI 的文字轉語音 (TTS) API，讓使用者能在任何使用 OpenAI API 的地方產生語音複製內容（例如 Open WebUI、AnythingLLM 等）

在 PyTorch 中重新實作 PWC-Net，並與官方 Caffe 版本相符

從單一相機進行即時 3D 全身重建，多人 BVH 輸出，純 C++ 執行環境，ONNX + ggml，包含手部的 70 關節骨架。

CUDA Voxelizer，用於將多邊形網格轉換為帶標註的體素網格

可微分流體力學套件

我們第一個完全由 AI 生成的深度學習系統

一個用於 CPU 和 GPU 上陣列型程式碼的程式碼產生器