bentoml/BentoML

最简便的 AI 应用与模型服务方式 ─ 构建模型推理 API、作业队列、LLM 应用、多模型流水线等

↗ 在 GitHub 打开

星数

8,817

Fork 数

1,020

语言

Python

许可

Apache-2.0

最后推送

2周前

Python python machine-learning llm deep-learning multimodal generative-ai llm-inference llmops mlops llm-serving model-serving ai-inference ml-engineering inference-platform model-inference-service

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。