vitoplantamura/OnnxStream
@vitoplantamuraONNX फाइलों के लिए हल्की अनुमान लाइब्रेरी, C++ में लिखी गई। यह RPI Zero 2 (या 298MB RAM में) पर Stable Diffusion XL 1.0 चला सकती है और डेस्कटॉप तथा सर्वर पर Mistral 7B भी चला सकती है। ARM, x86, WASM, RISC-V समर्थित। XNNPACK द्वारा त्वरित। Python, C# और JS(WASM) बाइंडिंग उपलब्ध हैं।
स्टार
2,086
फ़ोर्क
99
भाषा
C++
लाइसेंस
NOASSERTION
आख़िरी push
3 माह पहले
संबंधित intel (0)
अभी कोई संबंधित intel नहीं
यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।