madroidmaq

MLX Omni Server adalah server inferensi lokal yang didukung oleh framework MLX Apple, yang dirancang khusus untuk chip Apple Silicon (seri M). Ini mengimplementasikan endpoint API yang kompatibel dengan OpenAI, memungkinkan integrasi yang mulus dengan klien SDK OpenAI yang ada sekaligus memanfaatkan kekuatan inferensi ML lokal.