मुख्य सामग्री पर जाएँ
buildradar
Sign in

Tiiny-AI/PowerInfer

@Tiiny-AI

लोकल डिप्लॉयमेंट के लिए हाई-स्पीड लार्ज लैंग्वेज मॉडल सर्विंग।

स्टार
9,765
फ़ोर्क
598
भाषा
C++
लाइसेंस
MIT
आख़िरी push
4 माह पहले
C++llmlarge-language-modelsllm-inferencellamalocal-inference

अभी कोई संबंधित intel नहीं

यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।