madroidmaq/mlx-omni-server
@madroidmaqMLX Omni Server Apple के MLX फ्रेमवर्क द्वारा संचालित एक लोकल इन्फरेंस सर्वर है, जिसे विशेष रूप से Apple Silicon (M-series) चिप्स के लिए डिज़ाइन किया गया है। यह OpenAI-संगत API एंडपॉइंट्स को लागू करता है, जो लोकल ML इन्फरेंस की शक्ति का लाभ उठाते हुए मौजूदा OpenAI SDK क्लाइंट्स के साथ सहज एकीकरण को सक्षम बनाता है।
स्टार
742
फ़ोर्क
90
भाषा
Python
लाइसेंस
MIT
आख़िरी push
4 माह पहले
संबंधित intel (0)
अभी कोई संबंधित intel नहीं
यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।