madroidmaq/mlx-omni-server

MLX Omni Server は、Apple の MLX フレームワークを搭載し、Apple Silicon（Mシリーズ）チップ用に特別に設計されたローカル推論サーバーです。OpenAI 互換の API エンドポイントを実装しており、既存の OpenAI SDK クライアントとシームレスに統合しながら、ローカルでの ML 推論の性能を活用できます。