Propriétaire · kvcache-ai

kvcache-ai

Dépôts open source suivis de kvcache-ai, triés par étoiles.

3 dépôts

#1
ktransformers ↗@kvcache-aiPython
Un framework flexible pour expérimenter les optimisations d'inférence et de fine-tuning de LLM hétérogènes.
★ 19 452+125Évolution des étoiles sur les 7 derniers jours
#2
Mooncake ↗@kvcache-aiC++
Mooncake est la plateforme de service pour Kimi, un service LLM de premier plan fourni par Moonshot AI.
★ 6 470+40Évolution des étoiles sur les 7 derniers jours
#3
AgentENV ↗@kvcache-aiRust
AgentENV (AENV) est une plateforme distribuée pour exécuter des environnements d'agents à grande échelle.
★ 3 429+82Évolution des étoiles sur les 7 derniers jours