cuda

Thư viện toán tử TT-NN và mô hình lập trình kernel cấp thấp TT-Metalium.

🔥 Bảng điều khiển GPU NVIDIA thời gian thực

ThunderSVM: Thư viện SVM nhanh trên GPU và CPU

Dự án triển khai LLM dựa trên MNN. Dự án này đã được hợp nhất vào MNN.

Nền tảng nghiên cứu benchmark suy luận liên tục mã nguồn mở — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 & sắp ra mắt™ TPUv6e/v7/Trainium2/3 | Nền tảng nghiên cứu benchmark suy luận liên tục mã nguồn mở — Kimi K2.7-Code, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72, sắp ra mắt™ TPUv6e/v7/Trainium2/3

Triển khai Hiệu ứng 3D Ken Burns từ một Ảnh đơn sử dụng PyTorch

Tự động nghiên cứu cho các GPU kernel. Cung cấp bất kỳ mô hình PyTorch nào, đi ngủ và thức dậy với các Triton kernel được tối ưu hóa.

UCCL là một thư viện giao tiếp hiệu quả dành cho GPU, bao gồm các hoạt động tập thể, P2P (ví dụ: truyền bộ đệm KV, truyền trọng số RL) và EP (ví dụ: do GPU điều khiển)

Viết bằng Java. Chạy trên GPU. Tốc độ cao.

🔥🔥🔥 TensorRT cho YOLOv8, YOLOv8-Pose, YOLOv8-Seg, YOLOv8-Cls, YOLOv7, YOLOv6, YOLOv5, YOLONAS...... 🚀🚀🚀 CUDA IS ALL YOU NEED. 🍎🍎🍎

Thư viện tính toán số học GPU C++20 hiệu quả với cú pháp giống Python

Tự triển khai mô hình Chatterbox TTS mạnh mẽ. Máy chủ này cung cấp Web UI thân thiện với người dùng, các điểm cuối API linh hoạt (bao gồm tương thích với OpenAI), giọng đọc có sẵn, nhân bản giọng nói và xử lý văn bản quy mô sách nói lớn. Chạy tăng tốc trên NVIDIA (CUDA), AMD (ROCm) và CPU.

Lập trình CUDA trong Julia.

Một thư viện tensor nhanh chóng, tiện dụng và di động bằng Nim tập trung vào học sâu cho CPU, GPU và các thiết bị nhúng thông qua các backend OpenMP, Cuda và OpenCL

Một thư viện chồng lấp giao tiếp nhanh dành cho tính song parallel tensor/expert trên GPU.

Kho mã nguồn LuxCore

https://wavespeed.ai/ Khung tối ưu hóa hiệu suất suy luận tốt nhất cho HuggingFace Diffusers trên GPU NVIDIA.

stdgpu: Cấu trúc dữ liệu kiểu STL hiệu quả trên GPU

GraphVite: Hệ thống nhúng đồ thị tổng quát và hiệu năng cao

Kịch bản dựng FFmpeg cung cấp một cách dễ dàng để xây dựng FFmpeg tĩnh trên OSX và Linux bao gồm các codec không miễn phí.

Trình bao bọc Rust an toàn quanh CUDA toolkit

Mã nguồn mẫu cho Intel® oneAPI Toolkits

Tích hợp OpenCL cho Python, kèm theo nhiều tính năng hấp dẫn

Công cụ Machine Learning dành cho Hacker

Thư viện Matrix cho Clojure có tốc độ nhanh

SGLang-Omni hỗ trợ phục vụ hiệu suất cao cho TTS, ASR, các mô hình giọng nói và đa năng (omni).

Xây dựng công cụ suy luận LLM hiệu suất cao của riêng bạn bằng C++ và CUDA - một phiên bản nhỏ hơn của vLLM

Phân tích đồ thị GPU CUDA/C++ có thể lập trình

Robot với điện toán GPU

Framework kết xuất hiệu năng cao trên kiến trúc luồng dữ liệu