kvcache-ai/Mooncake

Mooncake es la plataforma de servicio para Kimi, un servicio de LLM líder proporcionado por Moonshot AI.

↗ Abrir en GitHub

Estrellas

6470

Bifurcaciones

1161

Lenguaje

C++

Licencia

Apache-2.0

Último push

hace 6 días

C++llm vllm reinforcement-learning inference sglang rdma disaggregation kvcache tokenspeed trt-llm

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.