Topik · continuous-batching

continuous-batching

Repositori open source terpantau bertanda continuous-batching, diurutkan berdasarkan bintang.

Repositori

Total bintang

1.557

Rata-rata bintang

1.557

Porsi

0,00%

Topik yang sering muncul berdampingan dengan continuous-batching di repositori yang sama.

Yang sedang naik

Repositori yang dibuat dalam 90 hari terakhir dan bertanda continuous-batching.

Tidak ada repositori baru bertanda topik ini dalam 90 hari terakhir.

#1
vllm-mlx ↗@waybarriosPython
Server inferensi LLM yang kompatibel dengan OpenAI dan Anthropic berkinerja tinggi untuk Apple Silicon. Dilengkapi MLX asli, continuous batching, model multimodal, pemanggilan alat MCP, dan dukungan Claude Code.
★ 1.557+0Perubahan bintang dalam 7 hari terakhir