cuda

Platform Riset Benchmark Inferensi Berkelanjutan Open Source — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 & segera hadir™ TPUv6e/v7/Trainium2/3 | Platform riset benchmark inferensi berkelanjutan open-source — Kimi K2.7-Code, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72, segera hadir™ TPUv6e/v7/Trainium2/3

:metal: Pustaka operator TT-NN, dan model pemrograman kernel tingkat rendah TT-Metalium.

🔥 Dasbor GPU NVIDIA waktu nyata

ThunderSVM: Pustaka SVM Cepat pada GPU dan CPU

Proyek deployment llm berbasis mnn. Proyek ini telah digabungkan ke dalam MNN.

Implementasi Efek 3D Ken Burns dari Gambar Tunggal menggunakan PyTorch

Pencarian otomatis untuk kernel GPU. Berikan model PyTorch apa pun, tidurlah, dan bangun dengan kernel Triton yang telah dioptimalkan.

UCCL adalah pustaka komunikasi yang efisien untuk GPU, mencakup kolektif, P2P (misal, transfer cache KV, transfer bobot RL), dan EP (misal, yang digerakkan oleh GPU)

Tulis Java. Jalankan di GPU. Cepat.

🔥🔥🔥 TensorRT untuk YOLOv8, YOLOv8-Pose, YOLOv8-Seg, YOLOv8-Cls, YOLOv7, YOLOv6, YOLOv5, YOLONAS...... 🚀🚀🚀 CUDA IS ALL YOU NEED. 🍎🍎🍎

Pustaka komputasi numerik GPU C++20 yang efisien dengan sintaks mirip Python

Host sendiri model TTS Chatterbox yang kuat. Server ini menawarkan Web UI yang ramah pengguna, endpoint API yang fleksibel (termasuk kompatibel dengan OpenAI), suara prasetel, kloning suara, dan pemrosesan teks skala buku audio besar. Berjalan dipercepat di NVIDIA (CUDA), AMD (ROCm), dan CPU.

Pemrograman CUDA di Julia.

Pustaka tensor yang cepat, ergonomis, dan portabel dalam Nim dengan fokus deep learning untuk CPU, GPU, dan perangkat tertanam melalui backend OpenMP, Cuda, dan OpenCL

Pustaka tumpang tindih komunikasi cepat untuk paralelisme tensor/pakar pada GPU.

Repositori sumber LuxCore

https://wavespeed.ai/ Framework optimisasi performa inferensi terbaik untuk HuggingFace Diffusers pada GPU NVIDIA.

stdgpu: Struktur Data mirip STL yang Efisien di GPU

GraphVite: Sistem Embedding Grafik yang Umum dan Berkinerja Tinggi

Pembungkus (wrapper) Rust yang aman di sekitar CUDA toolkit

Skrip build FFmpeg menyediakan cara mudah untuk mem-build FFmpeg statis di OSX dan Linux dengan menyertakan codec non-bebas.

Contoh untuk Intel® oneAPI Toolkits

SGLang-Omni mendukung penyajian berkinerja tinggi untuk model TTS, ASR, ucapan, dan omni.

Integrasi OpenCL untuk Python, ditambah fitur-fitur menarik

Mesin Machine Learning untuk Hacker

Pustaka Matriks Clojure yang cepat

Bangun mesin inferensi LLM berkinerja tinggi Anda sendiri dalam C++ dan CUDA - versi yang lebih kecil dari vLLM.

Analitik Grafik GPU CUDA/C++ yang Dapat Diprogram

Robotika dengan komputasi GPU

Framework rendering berkinerja tinggi pada arsitektur stream.