본문으로 건너뛰기
buildradar
Sign in

llm-d/llm-d

@llm-d

Kubernetes 환경에서 최신 가속기를 활용하여 최고 수준(SOTA)의 추론 성능을 달성하세요

스타
4,390
포크
743
언어
Shell
라이선스
Apache-2.0
마지막 푸시
5일 전
Shellaillmkubernetesgpuinferencecncfdistributed-inferenceintelligent-routingmodel-server

아직 관련 인텔이 없습니다

이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.