bentoml/OpenLLM

在云端将任何开源 LLM（如 DeepSeek、Llama）作为兼容 OpenAI 的 API 端点运行。

↗ 在 GitHub 打开

星数

12,524

Fork 数

837

语言

Python

许可

Apache-2.0

最后推送

1周前

Python llm llm-inference fine-tuning llmops llama llama2 vicuna mlops mistral open-source-llm llm-serving llm-ops bentoml llama3-1 llama3-2 llama3-2-vision model-inference openllm

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。