madroidmaq/mlx-omni-server
@madroidmaqMLX Omni Server es un servidor de inferencia local basado en el framework MLX de Apple, diseñado específicamente para chips Apple Silicon (serie M). Implementa endpoints de API compatibles con OpenAI, lo que permite una integración fluida con clientes del SDK de OpenAI mientras aprovecha la potencia de la inferencia de ML local.
Estrellas
742
Bifurcaciones
90
Lenguaje
Python
Licencia
MIT
Último push
hace 4 meses
Intel relacionado (0)
Aún no hay intel relacionado
Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.