turboderp-org/exllamav3
@turboderp-orgआधुनिक कंज्यूमर-क्लास GPUs पर स्थानीय रूप से LLMs चलाने के लिए एक ऑप्टिमाइज़्ड quantization और inference लाइब्रेरी
स्टार
1,267
फ़ोर्क
146
भाषा
Python
लाइसेंस
MIT
आख़िरी push
7 दिन पहले
संबंधित intel (0)
अभी कोई संबंधित intel नहीं
यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।