leonickson1/Swiftlet

Swiftlet 是一個 Swift 與 Metal 執行時期，透過從儲存空間串流專家權重，在 Apple 裝置上本地執行大型 Qwen Mixture-of-Experts 模型，使 35B 與 80B 模型能在低記憶體下執行，包含 iPhone。