跳到主要内容
buildradar
登录

carloslfu/slotstream

@carloslfu

Run Qwen3.8-Flash-Next (125B MoE, 104 GB at 4-bit) on Macs with a fraction of that RAM by streaming experts from SSD. MLX + Swift, Ollama-compatible API.

星数
287
Fork 数
16
语言
Swift
许可
MIT
最后推送
7天前
Swiftmacosllmswiftollamallm-inferencelocal-llmqwenapple-siliconmlxmixture-of-experts