मुख्य सामग्री पर जाएँ
buildradar
साइन इन करें

waybarrios/vllm-mlx

@waybarrios

Apple Silicon के लिए हाई-परफॉरमेंस OpenAI और Anthropic संगत LLM इन्फेरेंस सर्वर। नेटिव MLX, निरंतर बैचिंग, मल्टीमॉडल मॉडल, MCP टूल कॉलिंग, और Claude Code समर्थन।

स्टार
1,557
फ़ोर्क
220
भाषा
Python
लाइसेंस
Apache-2.0
आख़िरी push
1 सप्ताह पहले
Pythonmacosmcpopenaillmtext-to-speechanthropicclaude-codevllmopenai-apilocal-llmapple-siliconmlxspeech-to-textvision-language-modelanthropic-apiopenai-compatibletool-callingmultimodal-aiinference-servercontinuous-batching

अभी कोई संबंधित intel नहीं

यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।