ai-infra

AI एजेंटों के लिए सुरक्षित, तेज़ और विस्तार योग्य सैनबॉक्स रनटाइम।

Agent Scan, Skills Scan, MCP scan, AI Infra scan और LLM jailbreak evaluation के माध्यम से AI इकोसिस्टम को सुरक्षित करने वाला एक फुल-स्टैक AI रेड टीमिंग प्लेटफॉर्म।

🚀 मशीन लर्निंग के लिए शानदार सिस्टम ⚡️ AI सिस्टम पेपर्स और इंडस्ट्री प्रैक्टिस। ⚡️ मशीन लर्निंग, LLM (लार्ज लैंग्वेज मॉडल), GenAI (जेनरेटिव AI) के लिए सिस्टम। 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys, आदि। 🗃️ Llama3, Mistral, आदि। 🧑‍💻 वीडियो ट्यूटोरियल।

⚡️SwanLab - एक ओपन-सोर्स, आधुनिक-डिज़ाइन वाला AI ट्रेनिंग ट्रैकिंग और विज़ुअलाइज़ेशन टूल। क्लाउड / सेल्फ-होस्टेड उपयोग का समर्थन करता है। PyTorch / Transformers / verl / LLaMA Factory / ms-swift / Ultralytics / MMEngine / Keras आदि के साथ एकीकृत।

TurboDiffusion: वीडियो डिफ्यूजन मॉडल के लिए 100–200× त्वरण

AI बुनियादी ज्ञान - GPU आर्किटेक्चर, CUDA प्रोग्रामिंग, बड़े मॉडल की बुनियादी बातें और AI Agent संबंधित ज्ञान।

[ICML2025] SpargeAttention: एक ट्रेनिंग-मुक्त स्पार्स अटेंशन जो किसी भी मॉडल के इन्फॉरेंस को गति देता है।

Tensorlake सैंडबॉक्स और बैकग्राउंड एजेंटिक एप्लिकेशन को डिप्लॉय करने के लिए एक सर्वरलेस रनटाइम है

AI-नेटिव और क्लाउड-नेटिव FS: क्लाउड ऑब्जेक्ट स्टोरेज के लिए एक उच्च-प्रदर्शन फ़ाइल सिमेंटिक लेयर, जो हाई-स्पीड कैश के साथ एकीकृत है। CNCF सैंडबॉक्स प्रोजेक्ट।

HPC ट्यूटोरियल, जिसमें कलेक्टिव कम्युनिकेशन (MPI, NCCL), CUDA प्रोग्रामिंग, वेक्टरइज़्ड SIMD, RDMA कम्युनिकेशन आदि शामिल हैं।

प्रोडक्शन AI सिस्टम के लिए रिट्रीवल लेयर। वेक्टर डेटाबेस के बिना बिजली जैसी तेज़ (<10ms) खोज। ब्राउज़र, एज, ऑन-डिवाइस और क्लाउड के लिए निर्मित।