SharpAI/SwiftLM
@SharpAI⚡ 适用于 Apple Silicon 的原生 MLX Swift LLM 推理服务器。兼容 OpenAI API、支持 100B+ MoE 模型的 SSD 流、TurboQuant KV 缓存压缩，以及 macOS + iOS iPhone 应用程序。
星数
760
Fork 数
53
语言
Swift
许可
MIT
最后推送
2天前
相关情报（0）
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。