Aller au contenu principal
buildradar
Se connecter

waybarrios/vllm-mlx

@waybarrios

Serveur d'inférence LLM haute performance compatible OpenAI et Anthropic pour Apple Silicon. Support natif MLX, traitement par lots continu, modèles multimodaux, appel d'outils MCP et support de Claude Code.

Étoiles
1 557
Bifurcations
220
Langage
Python
Licence
Apache-2.0
Dernier push
il y a 1 semaine
Pythonmacosmcpopenaillmtext-to-speechanthropicclaude-codevllmopenai-apilocal-llmapple-siliconmlxspeech-to-textvision-language-modelanthropic-apiopenai-compatibletool-callingmultimodal-aiinference-servercontinuous-batching

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.