vllm-project/llm-compressor
@vllm-projectvLLM के साथ अनुकूलित तैनाती के लिए LLM पर विभिन्न संपीड़न एल्गोरिदम लागू करने के लिए Transformers-संगत लाइब्रेरी
स्टार
3,753
फ़ोर्क
644
भाषा
Python
लाइसेंस
Apache-2.0
आख़िरी push
6 दिन पहले
संबंधित intel (0)
अभी कोई संबंधित intel नहीं
यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।