mlx

开源 AI 语音工作室，支持克隆、口述和创作

上百种模型与提供者。一条指令即可找出适用于你的硬件的模型。

MLX：Apple Silicon 的数组框架

适用于 Apple Silicon 的 LLM 推理服务器，具持续批处理与 SSD 缓存功能，可从 macOS 菜单栏管理

VoiceStudio 是开源、完全本地化的 ElevenLabs 替代方案——支持 646 种语言的语音克隆、语音设计、视频配音、口述、转录与有声书制作。

灵活且强大的张量运算，让代码易读且可靠（支持 pytorch、jax、TensorFlow 等）

MLX 框架的示例

一个基于 Apple MLX 框架的文字转语音（TTS）、语音转文字（STT）与语音转语音（STS）库，提供在 Apple Silicon 上高效的语音分析。

拥有自己的 AI。原生 macOS AI 代理平台——支持任意模型、持久记忆、自主执行、加密身份。使用 Swift 开发，完全离线，开源。

使用 MLX 运行大型语言模型

MLX-VLM 是一个在 Mac 上使用 MLX 进行 Vision Language Models (VLMs) 推理与微调的套件

本地优先医疗 AI：临床 NER 与 HIPAA PII 去识别化，100% 端上执行，2,200+ 医疗模型，21 种语言，Apple MLX + Python，无云端，无病患资料离开网络。Apache-2.0

面向 AI 研究者的开源研究环境，支持从本地硬件到 GPU 集群无缝训练、评估和扩展模型。

Apple Silicon 上最快的本地 AI 引擎。比 Ollama 快 4.2 倍，缓存 TTFT 0.08 秒，100% 工具调用。17 个工具解析器、提示缓存、推理分离、云路由。即插即用的 OpenAI 替代品。与 Claude Code、Cursor、Aider 兼容。

在 Apple Silicon 上 100% 本地执行 Claude Code，使用本地 AI。MLX 原生 Anthropic-API 服务器。包含 6 个模型，包括 Muse-Glimmer 30B（现在多模态——可读取图像，已被消除）、Gemma 4 31B、Qwen 3.5 122B（65 tok/s）、DeepSeek V4 Flash（1M 上下文）。私有、离线、可隔离。为 NDA / 法律 / 医疗工作流程而建。

使用 MLX Swift 的示例

Apple MLX native implementations of state-of-the-art generative image & video models

Bonsai 示例

具备类似 GPT-Live 功能的设备端实时多模态 AI

适用于 MLX 的 Swift API

在 Apple Silicon 上通过 MLX 实现快 3 倍的速度 | Qwen 3.8 27B | 原生 MTP 推测解码，无需外部草稿模型。

Magenta RealTime 2：一个开源权重的现场音乐模型

由 MLX 驱动的原生 macOS AI 聊天应用程序。在 Apple Silicon 上 100% 本机推理，无需云端。使用 ShipSwift 打造。

针对 Apple Silicon 的高性能 OpenAI 与 Anthropic 兼容 LLM 推理服务器。原生支持 MLX、连续批处理、多模态模型、MCP 工具调用以及 Claude Code。

此仓库提供 AIMv1 与 AIMv2 研究项目的代码与模型检查点。

供 Agent 使用的本地 AI 应用与推理引擎。在你的电脑上私密、100% 离线运行开放权重 LLM。欢迎加入我们的 Discord：https://discord.com/invite/8wGSsvmg4V

在配备 Apple Silicon 的 Mac 上微调 LLMs。支持 SFT、DPO、GRPO、Vision、TTS、STT、Embedding 与 OCR 微调 —— 基于 MLX 原生实现。兼容 Unsloth API。

LM Studio Apple MLX 引擎

适用于 Apple Silicon 的 AI 语音工具组 — 由 MLX 与 CoreML 驱动的 ASR、TTS、语音转语音、VAD 与说话者分段

适用于 Apple Silicon 的原生 LLM 推理服务器。兼容 OpenAI + Anthropic API。无 Python。包含带聊天、agent 模式和工具调用功能的 MLX Core macOS 应用。