inference
inference टैग वाली ट्रैक की गई ओपन सोर्स रिपॉजिटरी, स्टार के हिसाब से क्रमबद्ध।
- #31
Superduper: कस्टम AI एप्लिकेशन और एजेंटों के निर्माण के लिए एंड-टू-एंड फ्रेमवर्क।
★ 5,318+1पिछले 7 दिनों में स्टार का बदलाव - #32
cube studio ओपन-सोर्स क्लाउड-नेटिव वन-स्टॉप मशीन लर्निंग/डीप लर्निंग/लार्ज मॉडल AI प्लेटफॉर्म।
★ 5,078+3पिछले 7 दिनों में स्टार का बदलाव - #33★ 4,882+3पिछले 7 दिनों में स्टार का बदलाव
- #34
Transformer मॉडल के लिए तेज़ इन्फेंस इंजन।
★ 4,658+7पिछले 7 दिनों में स्टार का बदलाव - #35
TNN: Tencent Youtu Lab और Guangying Lab द्वारा विकसित, मोबाइल, डेस्कटॉप और सर्वर के लिए एक यूनिफ़ॉर्म डीप लर्निंग इन्फ्रेन्स फ्रेमवर्क। TNN अपनी कई उत्कृष्ट विशेषताओं के लिए जाना जाता है, जिसमें इसकी क्रॉस-प्लेटफ़ॉर्म क्षमता, उच्च प्रदर्शन, मॉडल कंप्रेशन और कोड प्रूनिंग शामिल हैं। ncnn और Rapidnet के आधार पर, TNN मोबाइल उपकरणों के लिए समर्थन और प्रदर्शन अनुकूलन को और मजबूत करता है, और साथ ही
★ 4,649+1पिछले 7 दिनों में स्टार का बदलाव - #36★ 4,438+8पिछले 7 दिनों में स्टार का बदलाव
- #37
प्री-ट्रेन किए गए Deep Learning मॉडल और डेमो (उच्च गुणवत्ता और अत्यधिक तेज)
★ 4,424+0पिछले 7 दिनों में स्टार का बदलाव - #38★ 4,390+69पिछले 7 दिनों में स्टार का बदलाव
- #39★ 4,300+150पिछले 7 दिनों में स्टार का बदलाव
- #40
CSGHub OpenCSG टीम द्वारा विकसित LLM को प्रबंधित करने के लिए एक बिल्कुल नया ओपन-सोर्स प्लेटफ़ॉर्म है। यह Hugging Face के बराबर की सुविधाओं के साथ ओपन-सोर्स और ऑन-प्रिमाइसेस/SaaS दोनों समाधान प्रदान करता है। Hugging Face के साथ Python SDK संगतता के साथ LLM, डेटासेट और एजेंटों के जीवनचक्र पर पूर्ण नियंत्रण प्राप्त करें। हमसे जुड़ें! ⭐️
★ 4,104+3पिछले 7 दिनों में स्टार का बदलाव - #41
कोई भी मॉडल। कोई भी हार्डवेयर। कोई समझौता नहीं। @ziglang / @openxla / MLIR / @bazelbuild के साथ निर्मित
★ 4,015+5पिछले 7 दिनों में स्टार का बदलाव - #42
PaddlePaddle पर आधारित LLM और VLM के लिए उच्च-प्रदर्शन अनुमान और तैनाती टूलकिट
★ 3,714+3पिछले 7 दिनों में स्टार का बदलाव - #43
Apple Silicon के लिए सबसे तेज़ लोकल AI इंजन। Ollama से 4.2x तेज़, 0.08s कैache TTFT, 100% टूल कॉलिंग। 17 टूल पार्सर, प्रॉम्प्ट कैशे, रीज़निंग सेपरेशन, क्लाउड रूटिंग। ड्रॉप-इन OpenAI रिप्लेसमेंट। Claude Code, Cursor, Aider के साथ काम करता है।
★ 3,647+81पिछले 7 दिनों में स्टार का बदलाव - #44
कैंपस प्लेसमेंट और इंटर्नशिप के लिए बेहतरीन प्रोजेक्ट! ज़ीरो से एक उच्च-प्रदर्शन डीप लर्निंग इन्फेरेंस लाइब्रेरी बनाना सीखें, जो llama2, Unet, Yolov5, Resnet जैसे बड़े मॉडलों का समर्थन करती है।
★ 3,499+2पिछले 7 दिनों में स्टार का बदलाव - #45
🚀 उपयोग में आसान हार्डवेयर अनुकूलन टूल के साथ 🤗 Transformers, Diffusers, TIMM और Sentence Transformers के अनुमान और प्रशिक्षण में तेजी लाएं
★ 3,477+4पिछले 7 दिनों में स्टार का बदलाव - #46
📚 OpenVINO™ के लिए Jupyter नोटबुक ट्यूटोरियल
★ 3,212+3पिछले 7 दिनों में स्टार का बदलाव - #47
आपके एजेंट को आवश्यक सभी मॉडलों के लिए ओपन-सोर्स इन्फेरेंस सर्वर और प्रोडक्शन क्लस्टर।
★ 3,030+173पिछले 7 दिनों में स्टार का बदलाव - #48★ 2,961+2पिछले 7 दिनों में स्टार का बदलाव
- #49
Ascend पर vLLM के लिए सामुदायिक-रखरखाव वाला हार्डवेयर प्लगइन
★ 2,749+19पिछले 7 दिनों में स्टार का बदलाव - #50
JavaScript के साथ Hugging Face का उपयोग करें
★ 2,510+3पिछले 7 दिनों में स्टार का बदलाव - #51★ 2,484+6पिछले 7 दिनों में स्टार का बदलाव
- #52
cubestudio ओपन-सोर्स क्लाउड-नेटिव वन-स्टॉप मशीन लर्निंग/डीप लर्निंग/LMM AI प्लेटफॉर्म/MaaS/mlops/आर्टिफिशियल इंटेलिजेंस प्लेटफॉर्म/ट्रेनिंग-इन्फॉरेंस प्लेटफॉर्म
★ 2,469+12पिछले 7 दिनों में स्टार का बदलाव - #53
मोबाइल, सर्वर और वेब के लिए उच्च-कुशल फ़्लोटिंग-पॉइंट न्यूरल नेटवर्क इन्फेरेंस ऑपरेटर
★ 2,439+2पिछले 7 दिनों में स्टार का बदलाव - #54
किसी भी कंप्यूटर या एज डिवाइस को अपने कंप्यूटर विजन प्रोजेक्ट्स के लिए कमांड सेंटर में बदलें।
★ 2,431+2पिछले 7 दिनों में स्टार का बदलाव - #55
Applied AI में महारत हासिल करें, एक समय में एक अवधारणा।
★ 2,378+1पिछले 7 दिनों में स्टार का बदलाव - #56
क्लाउड, Kubernetes और बेयर मेटल पर NVIDIA, AMD, TPU और Tenstorrent में ट्रेनिंग, इन्फेंस और एजेंटिक वर्कलोड के लिए वेंडर-अज्ञेय ऑर्केस्ट्रेशन।
★ 2,233+4पिछले 7 दिनों में स्टार का बदलाव - #57★ 2,177+5पिछले 7 दिनों में स्टार का बदलाव
- #58
Llama 2 को एक ही फ़ाइल में शुद्ध 🔥 के साथ इनफ़र करें
★ 2,126+0पिछले 7 दिनों में स्टार का बदलाव - #59
DeepSpeed द्वारा संचालित, MII कम-विलंबता और उच्च-थ्रूपुट अनुमान को संभव बनाता है।
★ 2,112+1पिछले 7 दिनों में स्टार का बदलाव - #60★ 2,076+0पिछले 7 दिनों में स्टार का बदलाव
