madroidmaq/mlx-omni-server
@madroidmaqMLX Omni Server 是一個由 Apple 的 MLX 框架驅動的本地推論伺服器，專為 Apple Silicon (M 系列) 晶片設計。它實作了相容 OpenAI 的 API 端點，能夠與現有的 OpenAI SDK 用戶端無縫整合，同時發揮本地 ML 推論的效能。
星數
742
Fork 數
90
語言
Python
授權
MIT
最後推送
4 個月前
相關情報（0）
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。