ome-projects/ome

Open Model Engine (OME) — Kubernetes operator for LLM serving, GPU scheduling, and model lifecycle management. Works with SGLang, vLLM, TensorRT-LLM, and Triton

↗ Abrir no GitHub

Estrelas

507

Bifurcações

Linguagem

Licença

Apache-2.0

Último push

há 1 dia

Go llm llm-inference vllm deepseek k8s qwen llama model-serving sglang kimi-k2 model-as-a-service oracle-cloud multi-node-kubernetes pd-disaggregation

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.

Intel relacionado (0)

Ainda não há intel relacionado