SharpAI/SwiftLM
@SharpAI⚡ Apple Silicon向けのネイティブなMLX Swift LLM推論サーバー。OpenAI互換API、100B+ MoEモデル向けのSSDストリーミング、TurboQuant KVキャッシュ圧縮、macOSおよびiOS iPhoneアプリを搭載。
スター
753
フォーク
51
言語
Swift
ライセンス
MIT
最終プッシュ
16 時間前
関連 Intel（0）
関連 Intel はまだありません
このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。