1CatAI 收录中的开源项目,按星标数排序。
支持 AWQ 4-bit、CUDA 12.8 构建流程,并可在多 GPU V100 上部署验证 Qwen3.5 27B/35B 的 Tesla V100 (SM70) vLLM 分支版本。