Proprietário · weicj
weicj
Repositórios de código aberto acompanhados de weicj, ordenados por estrelas.
1 repositório
- #1
O runtime vLLM definitivo para duas RTX 2080 Ti de 22GB + NVLink, oferecendo inferência local do Qwen 27B com decodificação de requisição única máxima de mais de 100 tok/s e suporte a pesos FP8
★ 828+53Variação de estrelas nos últimos 7 dias
