PaddlePaddle/FastDeploy

Kit de ferramentas de inferência e implantação de alto desempenho para LLMs e VLMs baseado em PaddlePaddle.

↗ Abrir no GitHub

Estrelas

3.711

Bifurcações

759

Linguagem

Python

Licença

Apache-2.0

Último push

há 5 dias

Python openai llm vllm inference serving llm-serving ernie ernie-45 ernie-45-vl

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.