मुख्य सामग्री पर जाएँ
buildradar
साइन इन करें

carloslfu/slotstream

@carloslfu

Run Qwen3.8-Flash-Next (125B MoE, 104 GB at 4-bit) on Macs with a fraction of that RAM by streaming experts from SSD. MLX + Swift, Ollama-compatible API.

स्टार
287
फ़ोर्क
16
भाषा
Swift
लाइसेंस
MIT
आख़िरी push
7 दिन पहले
Swiftmacosllmswiftollamallm-inferencelocal-llmqwenapple-siliconmlxmixture-of-experts