serving
serving टैग वाली ट्रैक की गई ओपन सोर्स रिपॉजिटरी, स्टार के हिसाब से क्रमबद्ध।
मिलते-जुलते विषय
वे विषय जो अक्सर एक ही रिपॉजिटरी पर serving के साथ आते हैं।
हाल में उभरे
पिछले 90 दिनों में बनी और serving टैग वाली रिपॉजिटरी।
पिछले 90 दिनों में इस विषय के टैग वाली कोई नई रिपॉजिटरी नहीं आई।
- #1
Ray एक AI कंप्यूट इंजन है। Ray में ML वर्कलोड को तेज करने के लिए एक कोर डिस्ट्रिब्यूटेड रनटाइम और AI लाइब्रेरी का एक सेट शामिल है।
★ 43,647+70पिछले 7 दिनों में स्टार का बदलाव - #2★ 6,360+0पिछले 7 दिनों में स्टार का बदलाव
- #3★ 5,915+30पिछले 7 दिनों में स्टार का बदलाव
- #4
हजारों प्रोडक्शन मशीन लर्निंग मॉडल्स को पैकेज, डिप्लॉय, मॉनिटर और मैनेज करने के लिए एक MLOps फ्रेमवर्क।
★ 4,779+3पिछले 7 दिनों में स्टार का बदलाव - #5
सिस्टम इंजीनियरों के लिए Apple Silicon पर LLM इनफॉरेंस सिस्टम सीखें: एक छोटा vLLM + Qwen बनाएं।
★ 4,534+17पिछले 7 दिनों में स्टार का बदलाव - #6
इस रिपॉजिटरी में, मैं प्रोडक्शन में डीप लर्निंग-आधारित मॉडल को तैनात करने के बारे में कुछ उपयोगी नोट्स और संदर्भ साझा कर रहा हूँ।
★ 4,376+1पिछले 7 दिनों में स्टार का बदलाव - #7
लॉजिक, बैचिंग और स्केलिंग पर पूर्ण नियंत्रण के साथ कस्टम AI इन्फेरेंस सर्वर बनाने के लिए एक न्यूनतम Python फ्रेमवर्क।
★ 3,935+4पिछले 7 दिनों में स्टार का बदलाव - #8
PaddlePaddle पर आधारित LLM और VLM के लिए उच्च-प्रदर्शन अनुमान और तैनाती टूलकिट
★ 3,713+2पिछले 7 दिनों में स्टार का बदलाव - #9
प्रोडक्शन के लिए RAG-आधारित LLM एप्लिकेशन बनाने के लिए एक व्यापक गाइड।
★ 1,856+0पिछले 7 दिनों में स्टार का बदलाव - #10
एक मल्टी-मोडल वेक्टर डेटाबेस जो संरचित और गैर-संरचित डेटा पर एकीकृत SQL (MySQL-संगत) का उपयोग करके अप्सर्ट और वेक्टर क्वेरी का समर्थन करता है, साथ ही उच्च समवर्तीता और अति-कम विलंबता की आवश्यकताओं को पूरा करता है।
★ 1,701+0पिछले 7 दिनों में स्टार का बदलाव - #11
मशीन लर्निंग मॉडल के लिए एक लचीला, उच्च-प्रदर्शन वाला कैरियर (PaddlePaddle सर्विस डिप्लॉयमेंट फ्रेमवर्क)
★ 925+1पिछले 7 दिनों में स्टार का बदलाव - #12
OpenVINO™ के साथ अनुकूलित मॉडल के लिए एक स्केलेबल इन्फेरेंस सर्वर
★ 923+3पिछले 7 दिनों में स्टार का बदलाव - #13
मशीन लर्निंग मॉडल के लिए जेनेरिक और उपयोग में आसान सर्विंग सर्विस
★ 757+0पिछले 7 दिनों में स्टार का बदलाव - #14★ 548+1पिछले 7 दिनों में स्टार का बदलाव