madroidmaq/mlx-omni-server
@madroidmaqMLX Omni Server é um servidor de inferência local alimentado pelo framework MLX da Apple, projetado especificamente para chips Apple Silicon (série M). Ele implementa endpoints de API compatíveis com a OpenAI, permitindo integração perfeita com clientes SDK da OpenAI existentes, enquanto aproveita o poder da inferência de ML local.
Estrelas
742
Bifurcações
90
Linguagem
Python
Licença
MIT
Último push
há 4 meses
Intel relacionado (0)
Ainda não há intel relacionado
Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.