ome-projects/ome

Open Model Engine (OME) — Kubernetes operator for LLM serving, GPU scheduling, and model lifecycle management. Works with SGLang, vLLM, TensorRT-LLM, and Triton

↗ 在 GitHub 打开

星数

508

Fork 数

97

语言

Go

许可

Apache-2.0

最后推送

12小时前

Go llm llm-inference vllm deepseek k8s qwen llama model-serving sglang kimi-k2 model-as-a-service oracle-cloud multi-node-kubernetes pd-disaggregation

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。