विषय · inference-optimization

inference-optimization

inference-optimization टैग वाली ट्रैक की गई ओपन सोर्स रिपॉजिटरी, स्टार के हिसाब से क्रमबद्ध।

रिपॉजिटरी

कुल स्टार

4,917

औसत स्टार

1,229

हिस्सा

0.00%

वे विषय जो अक्सर एक ही रिपॉजिटरी पर inference-optimization के साथ आते हैं।

हाल में उभरे

पिछले 90 दिनों में बनी और inference-optimization टैग वाली रिपॉजिटरी।

#1
llm-inference-engineering ↗@amitshekhariitbhuMarkdown
Learn LLM Inference Engineering step by step - from KV cache, PagedAttention, and continuous batching to vLLM, SGLang, and GPUs.
★ 221

#1
XNNPACK ↗@googleC
मोबाइल, सर्वर और वेब के लिए उच्च-कुशल फ़्लोटिंग-पॉइंट न्यूरल नेटवर्क इन्फेरेंस ऑपरेटर
★ 2,439+2पिछले 7 दिनों में स्टार का बदलाव
#2
efficient-dl-systems ↗@mryabJupyter Notebook
कुशल डीप लर्निंग सिस्टम पाठ्यक्रम सामग्री
★ 1,031+2पिछले 7 दिनों में स्टार का बदलाव
#3
BladeDISC ↗@alibabaC++
BladeDISC मशीन लर्निंग वर्कलोड के लिए एक एंड-टू-एंड डायनेमिक शेप कंपाइलर प्रोजेक्ट है।
★ 932+0पिछले 7 दिनों में स्टार का बदलाव
#4
krasis ↗@brontoguanaC++
Krasis एक हाइब्रिड LLM रनटाइम है जो सीमित VRAM वाले उपभोक्ता-ग्रेड हार्डवेयर पर बड़े मॉडलों को कुशलतापूर्वक चलाने पर केंद्रित है
★ 518+2पिछले 7 दिनों में स्टार का बदलाव