madroidmaq

MLX Omni Server 是一個由 Apple 的 MLX 框架驅動的本地推論伺服器，專為 Apple Silicon (M 系列) 晶片設計。它實作了相容 OpenAI 的 API 端點，能夠與現有的 OpenAI SDK 用戶端無縫整合，同時發揮本地 ML 推論的效能。