Aller au contenu principal
buildradar
Sign in

ome-projects/ome

@ome-projects

Open Model Engine (OME) — Kubernetes operator for LLM serving, GPU scheduling, and model lifecycle management. Works with SGLang, vLLM, TensorRT-LLM, and Triton

Étoiles
506
Bifurcations
96
Langage
Go
Licence
Apache-2.0
Dernier push
il y a 2 jours
Gollmllm-inferencevllmdeepseekk8sqwenllamamodel-servingsglangkimi-k2model-as-a-serviceoracle-cloudmulti-node-kubernetespd-disaggregation

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.