madroidmaq/mlx-omni-server
@madroidmaqMLX Omni Server est un serveur d'inférence local propulsé par le framework MLX d'Apple, spécifiquement conçu pour les puces Apple Silicon (série M). Il implémente des points de terminaison d'API compatibles avec OpenAI, permettant une intégration transparente avec les clients SDK OpenAI existants tout en tirant parti de la puissance de l'inférence ML locale.
Étoiles
742
Bifurcations
90
Langage
Python
Licence
MIT
Dernier push
il y a 4 mois
Intel associée (0)
Aucune intel associée pour le moment
Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.