kvcache-ai의 추적 중인 오픈소스 리포지토리를 스타 수 순으로 보여줘요.
이종(Heterogeneous) LLM 추론 및 파인튜닝 최적화를 경험하기 위한 유연한 프레임워크
Mooncake은 Moonshot AI가 제공하는 선도적인 LLM 서비스 Kimi의 서빙 플랫폼입니다.
AgentENV (AENV)는 대규모로 에이전트 환경을 실행하기 위한 분산 플랫폼입니다.
