cuda

:metal: TT-NN ऑपरेटर लाइब्रेरी, और TT-Metalium लो-लेवल कर्नेल प्रोग्रामिंग मॉडल।

🔥 रीयल-टाइम NVIDIA GPU डैशबोर्ड

ThunderSVM: GPU और CPU पर आधारित एक तेज़ SVM लाइब्रेरी

mnn पर आधारित llm डिप्लॉय प्रोजेक्ट। यह प्रोजेक्ट MNN में विलय हो गया है।

ओपन सोर्स निरंतर अनुमान बेंचमार्क अनुसंधान प्लेटफ़ॉर्म — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 और जल्द ही™ TPUv6e/v7/Trainium2/3

PyTorch का उपयोग करके सिंगल इमेज से 3D Ken Burns Effect का कार्यान्वयन

GPU कर्नेल के लिए ऑटो-रिसर्च। इसे कोई भी PyTorch मॉडल दें, सो जाएं, और अनुकूलित Triton कर्नेल के साथ जागें।

UCCL GPU के लिए एक कुशल संचार लाइब्रेरी है, जिसमें कलेक्टिव्स, P2P (जैसे, KV कैश ट्रांसफर, RL वेट ट्रांसफर), और EP (जैसे, GPU-संचालित) शामिल हैं।

Java लिखें। GPU पर चलाएं। तेज़।

🔥🔥🔥 YOLOv8, YOLOv8-Pose, YOLOv8-Seg, YOLOv8-Cls, YOLOv7, YOLOv6, YOLOv5, YOLONAS आदि के लिए TensorRT... 🚀🚀🚀 CUDA IS ALL YOU NEED. 🍎🍎🍎

Python जैसी सिंटैक्स के साथ एक कुशल C++20 GPU संख्यात्मक कंप्यूटिंग लाइब्रेरी

शक्तिशाली Chatterbox TTS मॉडल को सेल्फ-हॉस्ट करें। यह सर्वर एक उपयोगकर्ता के अनुकूल Web UI, लचीले API एंडपॉइंट (OpenAI संगत सहित), पूर्वनिर्धारित आवाज़ें, वॉयस क्लोनिंग, और बड़े ऑडियोबुक-स्केल टेक्स्ट प्रोसेसिंग प्रदान करता है। NVIDIA (CUDA), AMD (ROCm), और CPU पर त्वरित रूप से चलता है।

Julia में CUDA प्रोग्रामिंग।

OpenMP, Cuda और OpenCL बैकएंड के माध्यम से CPU, GPU और एम्बेडेड उपकरणों के लिए डीप लर्निंग फोकस के साथ Nim में एक तेज़, एर्गोनॉमिक और पोर्टेबल टेंसर लाइब्रेरी

GPU पर टेंसर/एक्सपर्ट पैरेललिज्म के लिए एक तेज़ कम्युनिकेशन-ओवरलैपिंग लाइब्रेरी।

LuxCore स्रोत रिपॉजिटरी

https://wavespeed.ai/ NVIDIA GPU पर HuggingFace Diffusers के लिए सर्वश्रेष्ठ इन्फेरेंस परफॉर्मेंस ऑप्टिमाइज़ेशन फ्रेमवर्क।

stdgpu: GPU पर कुशल STL-जैसी डेटा संरचनाएं

GraphVite: एक सामान्य और उच्च-प्रदर्शन ग्राफ़ एम्बेडिंग सिस्टम

FFmpeg बिल्ड स्क्रिप्ट गैर-मुक्त कोडेक्स के साथ OSX और Linux पर एक स्थिर FFmpeg बनाने का एक आसान तरीका प्रदान करती है।

CUDA टूलकिट के चारों ओर सेफ Rust रैपर

Intel® oneAPI Toolkits के लिए सैंपल

Python के लिए OpenCL इंटीग्रेशन, साथ ही शानदार फीचर्स

हैकर्स का मशीन लर्निंग इंजन

तेज़ Clojure मैट्रिक्स लाइब्रेरी।

SGLang-Omni, TTS, ASR, स्पीच और ओम्नी मॉडल के लिए उच्च-प्रदर्शन सर्विंग को सक्षम बनाता है।

C++ और CUDA में अपना खुद का उच्च-प्रदर्शन LLM इन्फेरेंस इंजन बनाएं - vLLM का एक छोटा संस्करण

प्रोग्राम करने योग्य CUDA/C++ GPU ग्राफ एनालिटिक्स।

GPU कंप्यूटिंग के साथ रोबोटिक्स।

स्ट्रीम आर्किटेक्चर पर आधारित उच्च-प्रदर्शन रेंडरिंग फ्रेमवर्क