cuda

🚀🚀🚀 Bộ sưu tập các dự án công khai ấn tượng về Mô hình ngôn ngữ lớn (LLM), Mô hình ngôn ngữ thị giác (VLM), Hành động ngôn ngữ thị giác (VLA), Nội dung do AI tạo (AIGC), cùng các bộ dữ liệu và ứng dụng liên quan.

TIGRE: Bộ công cụ tái tạo hình ảnh cắt lớp lặp dựa trên GPU.

[Đang thử nghiệm] QPT - Công cụ Python to EXE (đóng gói Python) giúp các dự án mã nguồn mở tiếp cận thế giới Internet dễ dàng hơn.

Cơ chế chú ý thưa đa chiều tốc độ cao

Khung xử lý và trực quan hóa tín hiệu tăng tốc bằng GPU hiệu năng cao, chạy trên mọi nền tảng

SOMA: Hợp nhất các mô hình cơ thể người tham số

Thư viện toán học oneAPI (oneMath).

Tối ưu hóa phép nhân ma trận theo thứ tự hàng (row-major)

Công cụ profiler CPU/GPU luôn hoạt động dựa trên eBPF, tự động khám phá các mục tiêu trong Kubernetes và systemd mà không cần thay đổi mã nguồn hay khởi động lại.

Triển khai CUDA nhanh cho soft dynamic time warping (có thể vi phân) dành cho PyTorch.

Official SGLang × Datawhale course on LLM inference (中英双语): understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. 《从零手搓SGLang》：读懂推理，手搓 mini-sglang，吃透 SGLang 源码。

Trình quản lý bộ nhớ RAPIDS

VexCL là một thư viện mẫu biểu thức vector C++ cho OpenCL/CUDA/OpenMP

Ứng dụng chuyển đổi giọng nói thành văn bản (Speech-To-Text) hoàn toàn cục bộ và riêng tư, hỗ trợ nhiều model backend, phân đoạn người nói (diarization) và chế độ lịch - Có sẵn cho Windows, macOS và Linux

Thư viện và khung kết xuất mô-đun tương tác Vulkan, OptiX và CUDA cho PC/Linux/Android

ThunderGBM: GBDT và Random Forest tốc độ cao trên GPU

Dịch vụ phục vụ LLM không máy chủ (serverless) cho mọi người.

Một framework ML không phụ thuộc (zero-dependency) viết bằng C với API Python hiện đại để kiểm soát hoàn toàn việc thực thi và bộ nhớ.

🎯 AI từ con số 0 đến chuyên gia 👑

Công cụ suy luận LLM bằng Rust thuần + CUDA — không cần PyTorch, tương thích với OpenAI, hỗ trợ từ Qwen3 đến Kimi-K2.

Aim-bot dựa trên AI cho tất cả các trò chơi FPS và TPS

Công cụ suy luận (Inference Engine) viết bằng Rust thuần

API chuyển văn bản thành giọng nói (TTS) cục bộ, tương thích với OpenAI sử dụng Chatterbox, cho phép người dùng tạo giọng nói nhân bản ở bất kỳ đâu sử dụng OpenAI API (ví dụ: Open WebUI, AnythingLLM, v.v.)

Bản triển khai lại PWC-Net trong PyTorch khớp với phiên bản Caffe chính thức.

Tái tạo 3D toàn thân thời gian thực từ một camera duy nhất, xuất dữ liệu BVH đa người, runtime C++ thuần, ONNX + ggml, khung xương 70 khớp với bàn tay.

CUDA Voxelizer dùng để chuyển đổi lưới đa giác thành lưới voxel có chú thích.

Gói phần mềm động lực học chất lưu khả vi

Hệ thống học sâu đầu tiên của chúng tôi được tạo hoàn toàn bằng AI

Trình tạo mã cho các đoạn mã dựa trên mảng trên CPU và GPU.