Propietario · weicj
weicj
Repositorios de código abierto monitorizados de weicj, ordenados por estrellas.
1 repositorio
- #1
El runtime vLLM definitivo para configuraciones duales RTX 2080 Ti 22GB + NVLink, que permite la inferencia local de Qwen 27B con una velocidad máxima de decodificación de más de 100 tok/s por solicitud y soporte para pesos FP8.
★ 828+53Variación de estrellas de los últimos 7 días
