vllm-project/vllm-ascend

Ascend 上の vLLM 向けコミュニティ維持ハードウェアプラグイン

↗ GitHub で開く

スター

2,749

フォーク

2,179

言語

C++

ライセンス

Apache-2.0

最終プッシュ

1 週間前

C++llm vllm transformer llmops inference mlops ascend llm-serving model-serving

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。