मुख्य सामग्री पर जाएँ
buildradar
साइन इन करें

Michael-A-Kuykendall/shimmy

@Michael-A-Kuykendall

⚡ प्योर-Rust WebGPU इन्फेरेंस इंजन — OpenAI-API संगत, GGUF नेटिव, किसी भी GPU पर चलता है। कोई Python नहीं। कोई llama.cpp नहीं। सिंगल बाइनरी।

स्टार
5,864
फ़ोर्क
569
भाषा
Rust
लाइसेंस
Apache-2.0
आख़िरी push
2 सप्ताह पहले
Rustrustdeveloper-toolsmachine-learningwebgpullm-inferencetransformersllamacommand-line-toolhuggingfaceggufollama-apirust-crateopenai-compatiblellamacppwebgpu-shadersapi-serverlocal-aihuggingface-transformersinference-serverhuggingface-models

अभी कोई संबंधित intel नहीं

यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।