मुख्य सामग्री पर जाएँ
buildradar
Sign in

ModelTC/LightLLM

@ModelTC

LightLLM एक Python-आधारित LLM (लार्ज लैंग्वेज मॉडल) अनुमान और सर्विंग फ्रेमवर्क है, जो अपने हल्के डिजाइन, आसान स्केलेबिलिटी और उच्च गति प्रदर्शन के लिए जाना जाता है।

स्टार
4,260
फ़ोर्क
359
भाषा
Python
लाइसेंस
Apache-2.0
आख़िरी push
5 दिन पहले
Pythonllmdeep-learninggptnlpllamamodel-servingopenai-triton

अभी कोई संबंधित intel नहीं

यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।