SharpAI/SwiftLM
@SharpAIMáy chủ suy luận LLM MLX Swift gốc cho Apple Silicon. API tương thích với OpenAI, truyền phát SSD cho các mô hình MoE 100B+, nén bộ nhớ đệm TurboQuant KV, ứng dụng MACOS + iOS iPhone.
Sao
753
Fork
51
Ngôn ngữ
Swift
Giấy phép
MIT
Push gần nhất
22 giờ trước
Intel liên quan (0)
Chưa có intel liên quan
Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.