Sujet · continuous-batching

continuous-batching

Dépôts open source suivis étiquetés continuous-batching, triés par étoiles.

Dépôts

1

Total d'étoiles

1 557

Étoiles en moyenne

1 557

Part

0,00%

Sujets qui apparaissent souvent aux côtés de continuous-batching sur un même dépôt.

Ascensions récentes

Dépôts créés au cours des 90 derniers jours et étiquetés continuous-batching.

Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.

#1
vllm-mlx ↗@waybarriosPython
Serveur d'inférence LLM haute performance compatible OpenAI et Anthropic pour Apple Silicon. Support natif MLX, traitement par lots continu, modèles multimodaux, appel d'outils MCP et support de Claude Code.
★ 1 557+0Évolution des étoiles sur les 7 derniers jours

← Retour aux sujets