跳到主要內容
buildradar
登入

waybarrios/vllm-mlx

@waybarrios

針對 Apple Silicon 的高效能 OpenAI 與 Anthropic 相容 LLM 推論伺服器。原生支援 MLX、連續批次處理、多模態模型、MCP 工具呼叫以及 Claude Code。

星數
1,568
Fork 數
220
語言
Python
授權
Apache-2.0
最後推送
5 天前
Pythonmacosmcpopenaillmtext-to-speechanthropicclaude-codevllmopenai-apilocal-llmapple-siliconmlxspeech-to-textvision-language-modelanthropic-apiopenai-compatibletool-callingmultimodal-aiinference-servercontinuous-batching

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。