跳到主要內容
buildradar
登入

1CatAI/1Cat-vLLM

@1CatAI

支援 AWQ 4-bit、CUDA 12.8 建置流程,並可在多 GPU V100 上部署驗證 Qwen3.5 27B/35B 的 Tesla V100 (SM70) vLLM 分支版本。

星數
949
Fork 數
188
語言
Python
授權
Apache-2.0
最後推送
1 天前
Python

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。