跳到主要内容
buildradar
登录

waybarrios/vllm-mlx

@waybarrios

针对 Apple Silicon 的高性能 OpenAI 与 Anthropic 兼容 LLM 推理服务器。原生支持 MLX、连续批处理、多模态模型、MCP 工具调用以及 Claude Code。

星数
1,568
Fork 数
220
语言
Python
许可
Apache-2.0
最后推送
6天前
Pythonmacosmcpopenaillmtext-to-speechanthropicclaude-codevllmopenai-apilocal-llmapple-siliconmlxspeech-to-textvision-language-modelanthropic-apiopenai-compatibletool-callingmultimodal-aiinference-servercontinuous-batching

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。