kvcache-ai の追跡中のオープンソースリポジトリを、スター数順に表示します。
異種LLM推論/ファインチューニング最適化を体験するための柔軟なフレームワーク
Mooncakeは、Moonshot AIが提供する主要なLLMサービスKimiの提供プラットフォームです。
AgentENV (AENV) は、エージェント環境を大規模に実行するための分散プラットフォームです。