所有者 · weicj
weicj
weicj 收录中的开源项目，按星标数排序。
共 1 个项目
- #1
适用于双 RTX 2080 Ti 22GB + NVLink 的终极 vLLM 运行环境，支持 FP8 权重，可实现 Qwen 27B 本地推理，单请求解码速度最高达 100+ tok/s
★ 828+53近 7 天星标变化
weicj 收录中的开源项目，按星标数排序。
适用于双 RTX 2080 Ti 22GB + NVLink 的终极 vLLM 运行环境，支持 FP8 权重，可实现 Qwen 27B 本地推理，单请求解码速度最高达 100+ tok/s