madroidmaq

MLX Omni Server es un servidor de inferencia local basado en el framework MLX de Apple, diseñado específicamente para chips Apple Silicon (serie M). Implementa endpoints de API compatibles con OpenAI, lo que permite una integración fluida con clientes del SDK de OpenAI mientras aprovecha la potencia de la inferencia de ML local.