Proprietário · kvcache-ai

kvcache-ai

Repositórios de código aberto acompanhados de kvcache-ai, ordenados por estrelas.

3 repositórios

#1
ktransformers ↗@kvcache-aiPython
Um framework flexível para experimentar otimizações de inferência e ajuste fino de LLMs heterogêneos.
★ 19.452+125Variação de estrelas nos últimos 7 dias
#2
Mooncake ↗@kvcache-aiC++
Mooncake é a plataforma de serviço para o Kimi, um serviço de LLM líder fornecido pela Moonshot AI.
★ 6.470+40Variação de estrelas nos últimos 7 dias
#3
AgentENV ↗@kvcache-aiRust
AgentENV (AENV) é uma plataforma distribuída para executar ambientes de agentes em escala.
★ 3.429+82Variação de estrelas nos últimos 7 dias