kvcache-ai/Mooncake

Mooncake é a plataforma de serviço para o Kimi, um serviço de LLM líder fornecido pela Moonshot AI.

↗ Abrir no GitHub

Estrelas

6.470

Bifurcações

1.161

Linguagem

C++

Licença

Apache-2.0

Último push

há 6 dias

C++llm vllm reinforcement-learning inference sglang rdma disaggregation kvcache tokenspeed trt-llm

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.