Chủ sở hữu · weicj
weicj
Các kho mã nguồn mở đang theo dõi của weicj, sắp xếp theo số sao.
1 kho mã
- #1
Runtime vLLM tối ưu cho cấu hình dual RTX 2080 Ti 22GB + NVLink, cung cấp khả năng suy luận cục bộ Qwen 27B với tốc độ giải mã tối đa hơn 100 tok/s cho một yêu cầu, hỗ trợ trọng số FP8.
★ 828+53Thay đổi số sao trong 7 ngày qua
