मुख्य सामग्री पर जाएँ
buildradar
Sign in

vllm-project/llm-compressor

@vllm-project

vLLM के साथ अनुकूलित तैनाती के लिए LLM पर विभिन्न संपीड़न एल्गोरिदम लागू करने के लिए Transformers-संगत लाइब्रेरी

स्टार
3,753
फ़ोर्क
644
भाषा
Python
लाइसेंस
Apache-2.0
आख़िरी push
6 दिन पहले
Pythonquantizationcompression

अभी कोई संबंधित intel नहीं

यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।