Tencent/WeDLM
@TencentWeDLM: मानक कॉज़ल अटेंशन और नेटिव KV कैश संगतता के साथ सबसे तेज़ डिफ्यूजन लैंग्वेज मॉडल, जो vLLM-ऑप्टिमाइज़्ड बेसलाइन की तुलना में वास्तविक गति प्रदान करता है।
स्टार
654
फ़ोर्क
47
भाषा
Python
लाइसेंस
NOASSERTION
आख़िरी push
6 माह पहले
संबंधित intel (0)
अभी कोई संबंधित intel नहीं
यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।