PaddlePaddle/FastDeploy

PaddlePaddleベースのLLMおよびVLM向け高性能推論・デプロイメントツールキット

↗ GitHub で開く

スター

3,711

フォーク

759

言語

Python

ライセンス

Apache-2.0

最終プッシュ

5 日前

Python openai llm vllm inference serving llm-serving ernie ernie-45 ernie-45-vl

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。