cuda

🚀🚀🚀 收集一些关于大型语言模型（LLM）、视觉语言模型（VLM）、视觉语言动作（VLA）、AI 生成内容（AIGC）以及相关数据集与应用的优秀公开项目。

TIGRE：基于 GPU 的断层扫描迭代重建工具箱

[内测中]QPT - 致力于让开源项目更好通往互联网世界的Python to EXE工具（Python打包）。

快速多维度稀疏注意力机制

高性能、GPU 加速的信号处理与可视化框架，可在任何地方运行。

SOMA：统一参数化人体模型

oneAPI 数学库 (oneMath)

列主序矩阵乘法优化

基于 eBPF 的全天候 CPU/GPU 性能分析器，可自动发现 Kubernetes 与 systemd 中的目标，无需修改代码或重新启动！

适用于 PyTorch 的（可微分）软动态时间弯曲算法快速 CUDA 实现

Official SGLang × Datawhale course on LLM inference (中英双语): understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. 《从零手搓SGLang》：读懂推理，手搓 mini-sglang，吃透 SGLang 源码。

RAPIDS 内存管理器

VexCL 是一个用于 OpenCL/CUDA/OpenMP 的 C++ 向量表达式模板库

一个完全本地且具隐私的语音转文字应用程序，提供多种模型后端、说话者分离与日历模式 - 支持 Windows、macOS 与 Linux

适用于 PC/Linux/Android 的 Vulkan、OptiX 与 CUDA 互通模块化渲染库与框架

ThunderGBM：GPU 上的快速 GBDT 与随机森林

人人皆可使用的无服务器 LLM 推理服务

一个零依赖的 C 语言 ML 框架，具有现代化的 Python API，可完全掌控执行与内存。

AI 从零到英雄

纯 Rust + CUDA LLM 推理引擎 — 无需 PyTorch，兼容 OpenAI，支持 Qwen3 至 Kimi-K2 服务

适用于所有 FPS 和 TPS 游戏的基于 AI 的自瞄挂

纯 Rust 推理引擎

使用 Chatterbox 的本地、兼容 OpenAI 的文本转语音 (TTS) API，让用户能在任何使用 OpenAI API 的地方生成语音克隆内容（例如 Open WebUI、AnythingLLM 等）

在 PyTorch 中重新实现 PWC-Net，并与官方 Caffe 版本相符

从单一相机进行实时 3D 全身重建，多人 BVH 输出，纯 C++ 运行时，ONNX + ggml，包含手部的 70 关节骨架。

CUDA Voxelizer，用于将多边形网格转换为带标注的体素网格

可微分流体力学套件

我们第一个完全由 AI 生成的深度学习系统

一个用于 CPU 和 GPU 上数组型代码的代码生成器