turboderp-org/exllamav2
@turboderp-orgआधुनिक कंज्यूमर-क्लास GPU पर स्थानीय रूप से LLM चलाने के लिए एक तेज़ इन्फेरेंस लाइब्रेरी
स्टार
4,614
फ़ोर्क
341
भाषा
Python
लाइसेंस
MIT
आख़िरी push
6 माह पहले
संबंधित intel (0)
अभी कोई संबंधित intel नहीं
यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।