cuda

पूरी तरह से Rust में तेज़ GPU कोड लिखने और निष्पादित करने के लिए लाइब्रेरी और टूल का इकोसिस्टम।

NVIDIA cuML: GPU-त्वरित मशीन लर्निंग

3D डीप लर्निंग रिसर्च को तेज़ करने के लिए एक PyTorch लाइब्रेरी

कलेक्टिव मल्टी-GPU कम्युनिकेशन के लिए अनुकूलित प्रिमिटिव्स

ArrayFire: एक सामान्य उद्देश्य वाली GPU लाइब्रेरी।

Transformer मॉडल के लिए तेज़ इन्फेंस इंजन।

Tengine एम्बेडेड डिवाइस के लिए एक हल्का, उच्च-प्रदर्शन, मॉड्यूलर इन्फेरेंस इंजन है।

अत्यंत तेज़ C++/CUDA तंत्रिका नेटवर्क फ्रेमवर्क

HIP: पोर्टेबिलिटी के लिए C++ हेटेरोजीनियस-कंप्यूट इंटरफ़ेस

एक रीटार्गेटेबल MLIR-आधारित मशीन लर्निंग कंपाइलर और रनटाइम टूलकिट।

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention भाषा, छवि और वीडियो मॉडल में एंड-टू-एंड मेट्रिक्स खोए बिना FlashAttention की तुलना में 2-5x गति प्राप्त करता है।

एक ही नेटिव एप्लिकेशन से 3D Gaussian Splatting दृश्यों को प्रशिक्षित करें, निरीक्षण करें, संपादित करें, स्वचालित करें और निर्यात करें।

NVIDIA GPU पर Transformer मॉडल को तेज़ी से चलाने के लिए एक लाइब्रेरी, जिसमें Hopper, Ada और Blackwell GPU पर 8-बिट और 4-बिट फ़्लोटिंग पॉइंट (FP8 और FP4) सटीक का उपयोग शामिल है, ताकि ट्रेनिंग और इन्फेंस दोनों में कम मेमोरी उपयोग के साथ बेहतर प्रदर्शन मिल सके।

सेल्फ-होस्टेड, केवल स्थानीय NVR और AI कंप्यूटर विज़न सॉफ्टवेयर। ऑब्जेक्ट डिटेक्शन, मोशन डिटेक्शन, फेस रिकग्निशन और अन्य सुविधाओं के साथ, यह आपको अपने घर, कार्यालय या किसी अन्य स्थान पर नज़र रखने की शक्ति देता है।

LYGIA, प्रदर्शन और लचीलेपन के लिए डिज़ाइन किया गया एक दानेदार और बहु-भाषा (GLSL, HLSL, Metal, WGSL, WEGL और CUDA) शेडर लाइब्रेरी है

सिंगल C फ़ाइल, रिमोट वेब व्यूअर के साथ रीयल-टाइम CPU/GPU प्रोफाइलर

cuda में कुछ एल्गोरिदम को कैसे अनुकूलित करें।

Jittor JIT कंपाइलिंग और मेटा-ऑपरेटरों पर आधारित एक उच्च-प्रदर्शन deep learning फ्रेमवर्क है।

GPU त्वरण और व्यापक हार्डवेयर समर्थन के साथ ओपन सोर्स न्यूरल नेटवर्क चेस इंजन।

NVIDIA उत्पादों के लिए एजेंट स्किल्स — फिजिकल AI, रोबोटिक्स, सिमुलेशन, CUDA और RAG वर्कफ़्लो को अंत से अंत तक चलाने के लिए Claude Code, Codex और अन्य कोडिंग एजेंटों में इंस्टॉल करें।

cuda-oxide एक प्रयोगात्मक Rust-to-CUDA कंपाइलर है जो आपको सुरक्षित और स्वाभाविक Rust में (SIMT) GPU कर्नेल लिखने की अनुमति देता है। यह मानक Rust कोड को सीधे PTX में संकलित करता है - कोई DSL नहीं, कोई विदेशी भाषा बाइंडिंग नहीं, केवल Rust।

एक GPU-संचालित वास्तविक समय एनालिटिक्स स्टोरेज और क्वेरी इंजन।

HeavyDB (पूर्व में MapD/OmniSciDB)

RamaLama एक ओपन-सोर्स डेवलपर टूल है जो किसी भी स्रोत से AI मॉडल की स्थानीय सर्विसिंग को सरल बनाता है और कंटेनरों की परिचित भाषा के माध्यम से उत्पादन में अनुमान के लिए उनके उपयोग को सुविधाजनक बनाता है।

TensorRT का उपयोग करने वाले NVIDIA GPU के लिए PyTorch/TorchScript/FX कंपाइलर

प्रशिक्षण और अनुमान (training and inference) के लिए PyTorch नेटिव क्वांटाइजेशन

Minkowski Engine उच्च-आयामी स्पार्स टेंसर के लिए एक ऑटो-डिफ़ न्यूरल नेटवर्क लाइब्रेरी है

NVIDIA GPU Operator Kubernetes में GPU को बनाता, कॉन्फ़िगर और प्रबंधित करता है।

उपभोक्ता और विषम हार्डवेयर के लिए LLM स्पेक्युलेटिव इन्फेरेंस सर्वर

:boom::computer::boom: एक डेटा-पैरेलल फंक्शनल प्रोग्रामिंग भाषा