跳到主要内容
buildradar

vllm-project/vllm

@vllm-project

高吞吐量且内存效率高的 LLM 推理与服务引擎

↗ 在 GitHub 打开
星数
90,415
Fork 数
21,400
语言
Python
许可
Apache-2.0
最后推送
2天前
Pythonopenaillmcudagpttransformerpytorchdeepseekqwenllamainferencekimiqwen3tpullm-servingmodel-servingmoedeepseek-v3amdgpt-ossblackwell

相关情报（1）