본문으로 건너뛰기
buildradar
Sign in

ome-projects/ome

@ome-projects

Open Model Engine (OME) — Kubernetes operator for LLM serving, GPU scheduling, and model lifecycle management. Works with SGLang, vLLM, TensorRT-LLM, and Triton

스타
506
포크
96
언어
Go
라이선스
Apache-2.0
마지막 푸시
3일 전
Gollmllm-inferencevllmdeepseekk8sqwenllamamodel-servingsglangkimi-k2model-as-a-serviceoracle-cloudmulti-node-kubernetespd-disaggregation

아직 관련 인텔이 없습니다

이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.