madroidmaq

MLX Omni Server 是一个由 Apple 的 MLX 框架驱动的本地推理服务器，专为 Apple Silicon (M 系列) 芯片设计。它实现了兼容 OpenAI 的 API 端点，能够与现有的 OpenAI SDK 客户端无缝集成，同时发挥本地 ML 推理的性能。