1CatAI 收錄中的開源專案,依星數排序。
支援 AWQ 4-bit、CUDA 12.8 建置流程,並可在多 GPU V100 上部署驗證 Qwen3.5 27B/35B 的 Tesla V100 (SM70) vLLM 分支版本。