madroidmaq

MLX Omni Server est un serveur d'inférence local propulsé par le framework MLX d'Apple, spécifiquement conçu pour les puces Apple Silicon (série M). Il implémente des points de terminaison d'API compatibles avec OpenAI, permettant une intégration transparente avec les clients SDK OpenAI existants tout en tirant parti de la puissance de l'inférence ML locale.