विषय · high-performance-inference
high-performance-inference
high-performance-inference टैग वाली ट्रैक की गई ओपन सोर्स रिपॉजिटरी, स्टार के हिसाब से क्रमबद्ध।
रिपॉजिटरी
2
कुल स्टार
6,109
औसत स्टार
3,055
हिस्सा
0.00%
मिलते-जुलते विषय
वे विषय जो अक्सर एक ही रिपॉजिटरी पर high-performance-inference के साथ आते हैं।
हाल में उभरे
पिछले 90 दिनों में बनी और high-performance-inference टैग वाली रिपॉजिटरी।
पिछले 90 दिनों में इस विषय के टैग वाली कोई नई रिपॉजिटरी नहीं आई।
- #1
हाई-परफॉरमेंस AI मॉडल सर्विंग (vLLM, SGLang) और ऑन-डिमांड SSH-एक्सेसिबल GPU इंस्टेंस के लिए एक GPU क्लस्टर मैनेजर।
★ 5,593+21पिछले 7 दिनों में स्टार का बदलाव - #2
Krasis एक हाइब्रिड LLM रनटाइम है जो सीमित VRAM वाले उपभोक्ता-ग्रेड हार्डवेयर पर बड़े मॉडलों को कुशलतापूर्वक चलाने पर केंद्रित है
★ 518+2पिछले 7 दिनों में स्टार का बदलाव
