1CatAI/1Cat-vLLM
@1CatAITesla V100 (SM70) के लिए vLLM फोर्क, जिसमें AWQ 4-बिट सपोर्ट, CUDA 12.8 बिल्ड फ्लो, और मल्टी-GPU V100 पर मान्य Qwen3.5 27B/35B परिनियोजन शामिल है।
स्टार
949
फ़ोर्क
188
भाषा
Python
लाइसेंस
Apache-2.0
आख़िरी push
11 घंटे पहले
संबंधित intel (0)
अभी कोई संबंधित intel नहीं
यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।