PaddlePaddle/FastDeploy

基于 PaddlePaddle 的高效 LLM 与 VLM 推理与部署工具包

↗ 在 GitHub 打开

星数

3,714

Fork 数

759

语言

Python

许可

Apache-2.0

最后推送

2周前

Python openai llm vllm inference serving llm-serving ernie ernie-45 ernie-45-vl

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。