SharpAI/SwiftLM
@SharpAIApple Silicon के लिए नेटिव MLX Swift LLM इन्फरेंस सर्वर। OpenAI-संगत API, 100B+ MoE मॉडल के लिए SSD स्ट्रीमिंग, TurboQuant KV कैश कंप्रेशन, और MACOS + iOS iPhone ऐप।
स्टार
760
फ़ोर्क
53
भाषा
Swift
लाइसेंस
MIT
आख़िरी push
2 दिन पहले
संबंधित intel (0)
अभी कोई संबंधित intel नहीं
यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।