SharpAI/SwiftLM
@SharpAI⚡ 適用於 Apple Silicon 的原生 MLX Swift LLM 推論伺服器。相容 OpenAI API、支援 100B+ MoE 模型的 SSD 串流、TurboQuant KV 快取壓縮，以及 macOS + iOS iPhone 應用程式。
星數
758
Fork 數
52
語言
Swift
授權
MIT
最後推送
1 天前
相關情報（0）
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。