ome-projects/ome

Open Model Engine (OME) — Kubernetes operator for LLM serving, GPU scheduling, and model lifecycle management. Works with SGLang, vLLM, TensorRT-LLM, and Triton

↗ Auf GitHub öffnen

Sterne

506

Forks

Sprache

Lizenz

Apache-2.0

Letzter Push

vor 2 Tagen

Go llm llm-inference vllm deepseek k8s qwen llama model-serving sglang kimi-k2 model-as-a-service oracle-cloud multi-node-kubernetes pd-disaggregation

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.

Verwandte Intel (0)

Noch keine verwandte Intel