मालिक · sgl-project
sgl-project
sgl-project की ट्रैक की गई ओपन सोर्स रिपॉजिटरी, स्टार के हिसाब से क्रमबद्ध।
5 रिपॉजिटरी
- #1
SGLang बड़े भाषा मॉडल और मल्टीमॉडल मॉडल के लिए एक उच्च-प्रदर्शन सर्विंग फ्रेमवर्क है।
★ 33,538+791पिछले 7 दिनों में स्टार का बदलाव - #2
SGLang का एक कॉम्पैक्ट कार्यान्वयन, जो आधुनिक LLM सर्विंग सिस्टम की जटिलताओं को स्पष्ट करने के लिए डिज़ाइन किया गया है।
★ 4,937+38पिछले 7 दिनों में स्टार का बदलाव - #3
Speculative decoding मॉडल को आसानी से ट्रेन करें और उन्हें SGLang सर्विंग में सुचारू रूप से पोर्ट करें।
★ 1,144+14पिछले 7 दिनों में स्टार का बदलाव - #4
SGLang-Omni, TTS, ASR, स्पीच और ओम्नी मॉडल के लिए उच्च-प्रदर्शन सर्विंग को सक्षम बनाता है।
★ 1,105+130पिछले 7 दिनों में स्टार का बदलाव - #5
SGLang सीखने के लिए सामग्री।
★ 886+5पिछले 7 दिनों में स्टार का बदलाव
