मालिक · vllm-project
vllm-project
vllm-project की ट्रैक की गई ओपन सोर्स रिपॉजिटरी, स्टार के हिसाब से क्रमबद्ध।
11 रिपॉजिटरी
- #1★ 90,817+402पिछले 7 दिनों में स्टार का बदलाव
- #2★ 6,593+136पिछले 7 दिनों में स्टार का बदलाव
- #3
विविध LLM अनुमान के लिए एक प्रोग्रामेबल मिक्सचर-ऑफ-मॉडल्स राउटर
★ 5,506+101पिछले 7 दिनों में स्टार का बदलाव - #4★ 5,053+10पिछले 7 दिनों में स्टार का बदलाव
- #5
vLLM के साथ अनुकूलित तैनाती के लिए LLM पर विभिन्न संपीड़न एल्गोरिदम लागू करने के लिए Transformers-संगत लाइब्रेरी
★ 3,753+17पिछले 7 दिनों में स्टार का बदलाव - #6
Ascend पर vLLM के लिए सामुदायिक-रखरखाव वाला हार्डवेयर प्लगइन
★ 2,749+19पिछले 7 दिनों में स्टार का बदलाव - #7
कम्युनिटी-संचालित परफॉर्मेंस ऑप्टिमाइज़ेशन के साथ K8S-नेटिव क्लस्टर-व्यापी तैनाती के लिए vLLM का रेफरेंस सिस्टम
★ 2,550+13पिछले 7 दिनों में स्टार का बदलाव - #8
Apple Silicon पर vLLM के लिए कम्युनिटी द्वारा मेंटेन किया जाने वाला हार्डवेयर प्लगइन
★ 1,679+22पिछले 7 दिनों में स्टार का बदलाव - #9
वास्तविक दुनिया के अनुमान की जरूरतों के लिए अपने LLM तैनाती का मूल्यांकन और संवर्धन करें
★ 1,573+20पिछले 7 दिनों में स्टार का बदलाव - #10★ 1,008+12पिछले 7 दिनों में स्टार का बदलाव
- #11
vLLM में LLM इन्फरेंस के लिए सट्टा डिकोडिंग एल्गोरिदम बनाने, मूल्यांकन करने और संग्रहीत करने के लिए एक एकीकृत लाइब्रेरी
★ 807+27पिछले 7 दिनों में स्टार का बदलाव
