擁有者 · weicj
weicj
weicj 收錄中的開源專案，依星數排序。
共 1 個專案
- #1
適用於雙 RTX 2080 Ti 22GB + NVLink 的終極 vLLM 執行環境，支援 FP8 權重，可實現 Qwen 27B 本地推論，單請求解碼速度最高達 100+ tok/s
★ 828+53近 7 天星數變化
weicj 收錄中的開源專案，依星數排序。
適用於雙 RTX 2080 Ti 22GB + NVLink 的終極 vLLM 執行環境，支援 FP8 權重，可實現 Qwen 27B 本地推論，單請求解碼速度最高達 100+ tok/s