madroidmaq/mlx-omni-server
@madroidmaqMLX Omni Server 是一个由 Apple 的 MLX 框架驱动的本地推理服务器，专为 Apple Silicon (M 系列) 芯片设计。它实现了兼容 OpenAI 的 API 端点，能够与现有的 OpenAI SDK 客户端无缝集成，同时发挥本地 ML 推理的性能。
星数
743
Fork 数
90
语言
Python
许可
MIT
最后推送
4个月前
相关情报（0）
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。